דיון רב-סוכנים/ MAD

הגדרה

דיון רב-סוכנים הוא טכניקה שבה מספר סוכני מודל מתווכחים, מבקרים ומתקנים תשובות לפני שמתקבלת החלטה. ביישומי הגנה, היא משפרת את הניתוח על ידי שילוב נקודות מבט של צוות אדום, צוות כחול, לוגיסטיקה, משפט ולוחמה אלקטרונית (ל"א) לאותו תהליך עבודה. החלק הקשה הוא חשיבת יחד (groupthink) בין מודלים דומים ושכנוע יריב ללא בדיקות ראיות, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס אליה כאל שיטת סימולציית מטה, לא כתחליף לשיקול דעת פיקודי, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

תבנית התדיינות סוכנים

ערך מבצעי

משפר את הניתוח על ידי שילוב נקודות מבט של צוות אדום, צוות כחול, לוגיסטיקה, משפט ולוחמה אלקטרונית (ל"א) לאותו תהליך עבודה

סיכון עיקרי

חשיבת יחד (groupthink) בין מודלים דומים ושכנוע יריב ללא בדיקות ראיות

תפקיד KhanBMS

שיטת סימולציית מטה, לא תחליף לשיקול דעת פיקודי

מונחים קשורים

• צוות אדום לבינה מלאכותית
  בדיקות יריבות מובנות של מערכות בינה מלאכותית לחשיפת התנהגות לא בטוחה, מוטה, ניתנת לניצול או שבירה.
• היגיון עץ-מחשבה (ToT)
  שיטת הנחיה וחיפוש החוקרת ענפי חשיבה מרובים לפני בחירת תשובה או תוכנית.
• בינה מלאכותית לתמיכה בהחלטות (DSAI)
  מערכות בינה מלאכותית המסנתזות נתונים, חלופות, סיכונים והסברים עבור מפקדים או מפעילי מערכות.
• כיול ביטחון
  הבטחת התאמה בין ציוני ביטחון של מודל לבין הסבירות האמיתית לנכונות בעולם האמיתי.