סוכני אמונה-רצון-כוונה/ BDI

הגדרה

סוכני אמונה-רצון-כוונה הם מודל סוכן המפריד בין מה שהסוכן מאמין, רוצה ומתכוון לעשות. ביישומי ביטחון, הוא הופך החלטות אוטונומיות לקלות יותר לבדיקה מאשר מדיניות נוירלית תגובתית בלבד. החלק הקשה הוא שגיאות עדכון אמונה והנחות סמליות שבריריות בסביבות מורכבות, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס אליו כסגנון סוכן שקוף למשימות שבהן ההיגיון חשוב לא פחות מהפעולה, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

מודל סוכן סמלי

ערך מבצעי

הופך החלטות אוטונומיות לקלות יותר לבדיקה מאשר מדיניות נוירלית תגובתית בלבד

סיכון עיקרי

שגיאות עדכון אמונה והנחות סמליות שבריריות בסביבות מורכבות

תפקיד KhanBMS

סגנון סוכן שקוף למשימות שבהן ההיגיון חשוב לא פחות מהפעולה

מונחים קשורים

• בינה מלאכותית ניתנת להסבר (XAI)
  שיטות המציגות מדוע מערכת בינה מלאכותית הפיקה חיזוי, המלצה או פעולה.
• זיכרון סוכן
  מאגרי הקשר מתמשכים לטווח קצר וארוך המשמשים סוכנים לזכור עובדות, מטרות, פעולות ולקחים.
• סוכן תכנון משימה
  סוכן בינה מלאכותית המסייע ביצירה, תיקון וניטור תוכניות משימה תחת כוונת המפקד ואילוצים.
• אדם בלולאת הפיקוח
  תבנית בקרה פיקודית שבה האדם יכול להתערב אך אינו פועל בכל שלב.