תערובת מומחים/ MoE

הגדרה

תערובת מומחים היא ארכיטקטורת מודל המפעילה תת-רשתות מומחיות עבור אסימונים או משימות שונות כדי להגדיל יכולת ביעילות. ביישומי הגנה, היא מספקת יכולת הסקה בעלת קיבולת גבוהה תוך שימוש בחלקיק קטן בלבד מהפרמטרים לכל מעבר הסקה. האתגרים העיקריים הם חוסר יציבות בניווט, קריסת מומחים, והתנהגות שקשה לאשר אותה על פני תחומי משימה, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחסת לכך כדרך לשמור על מיומנויות הגנה מיוחדות מודולריות במקום לאלץ מודל צפוף אחד לדעת הכל, ובכך מקשרת את הרעיון לפיקוד מודולרי, ביצוע בקצה, וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

ארכיטקטורת מודל ניתנת להרחבה

ערך מבצעי

מספקת יכולת הסקה בעלת קיבולת גבוהה תוך שימוש בחלקיק קטן בלבד מהפרמטרים לכל מעבר הסקה

סיכון עיקרי

חוסר יציבות בניווט, קריסת מומחים, והתנהגות שקשה לאשר אותה על פני תחומי משימה

תפקיד KhanBMS

דרך לשמור על מיומנויות הגנה מיוחדות מודולריות במקום לאלץ מודל צפוף אחד לדעת הכל

מונחים קשורים

• מודלי יסוד ביטחוניים (DFM)
  מודלי בינה מלאכותית גדולים שאומנו מראש, מותאמים למשימות תכנון צבאי, תפיסה, שפה ותמיכה בהחלטות.
• זיקוק מודלים (KD)
  שיטת אימון המעבירה התנהגות ממודל מורה גדול יותר למודל תלמיד קטן יותר הניתן לפריסה.
• נראות מודל
  ניטור קלט, פלט, סחיפה, שיהוי, ביטחון וכשלים של מודל לאחר פריסתו.
• מודלי AI ריבוניים (SAI)
  מודלים שאומנו, מתארחים ומנוהלים תחת שליטה לאומית או קואליציונית, במקום תלות מסחרית זרה.