תכנון מודע-סיכון

הגדרה

תכנון מודע-סיכון הוא תכנון הממַדל במפורש אי-ודאות, אובדן, גילוי, סיכון נלווה והסתברויות לכשל משימה. ביישומים ביטחוניים, הוא מונע מתוכניות AI לבצע אופטימיזציה רק של מהירות, מרחק או אפקטיביות קינטית. הקושי טמון בפריורים (priors) שגויים, סיכוני זנב חסרים ופשרות סיכון עמומות, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כדרישת תכנון של KhanBMS לכל המלצה אוטונומית, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

דיסציפלינת תכנון

ערך מבצעי

מונע מתוכניות AI לבצע אופטימיזציה רק של מהירות, מרחק או אפקטיביות קינטית

סיכון עיקרי

פריורים (priors) שגויים, סיכוני זנב חסרים ופשרות סיכון עמומות

תפקיד KhanBMS

דרישת תכנון של KhanBMS לכל המלצה אוטונומית

מונחים קשורים

• יצירת קווי פעולה (COA AI)
  יצירה והשוואה מבוססת בינה מלאכותית של אפשרויות משימה סבירות תחת אילוצים וכוונת מפקד.
• סוכן תכנון משימה
  סוכן בינה מלאכותית המסייע ביצירה, תיקון וניטור תוכניות משימה תחת כוונת המפקד ואילוצים.
• כיול ביטחון
  הבטחת התאמה בין ציוני ביטחון של מודל לבין הסבירות האמיתית לנכונות בעולם האמיתי.
• בדיקה והערכה של אוטונומיה (T&E)
  דיסציפלינת בדיקה לאימות מערכות אוטונומיות על פני סימולציה, חומרה, ניסויי שדה ותרחישים עוינים.