למידת מכונה ניתנת לפירוש/ IML

הגדרה

למידת מכונה ניתנת לפירוש היא גישות מידול שההיגיון הפנימי שלהן ניתן להבנה ישירה או עם הסבר מינימלי בדיעבד. ביישומי הגנה, היא תומכת בהסמכה ובהחלטות בעלות סיכון גבוה כאשר ביצועי 'קופסה שחורה' אינם מספיקים. החלק הקשה הוא התקרה הנמוכה יותר במשימות תפיסה מורכבות ובהנחות פשטניות מדי, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחסת לכך כבחירה מועדפת של KhanBMS כאשר יכולת הביקורת עולה על קיבולת המודל הגולמית, ומקשרת את המושג בחזרה לפיקוד מודולרי, ביצוע בקצה, וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

גישת מידול שקופה

ערך מבצעי

תומך בהסמכה ובהחלטות בעלות סיכון גבוה כאשר ביצועי 'קופסה שחורה' אינם מספיקים

סיכון עיקרי

תקרה נמוכה יותר במשימות תפיסה מורכבות והנחות פשטניות מדי

תפקיד KhanBMS

בחירה מועדפת של KhanBMS כאשר יכולת הביקורת עולה על קיבולת המודל הגולמית

מונחים קשורים

• בינה מלאכותית ניתנת להסבר (XAI)
  שיטות המציגות מדוע מערכת בינה מלאכותית הפיקה חיזוי, המלצה או פעולה.
• כיול ביטחון
  הבטחת התאמה בין ציוני ביטחון של מודל לבין הסבירות האמיתית לנכונות בעולם האמיתי.
• כרטיסי מודל להגנה
  פריטי תיעוד המתארים את ייעוד המודל, נתוני אימון, מדדים, מגבלות ושימושים מאושרים.
• בדיקה והערכה של אוטונומיה (T&E)
  דיסציפלינת בדיקה לאימות מערכות אוטונומיות על פני סימולציה, חומרה, ניסויי שדה ותרחישים עוינים.