כיול ביטחון

הגדרה

כיול ביטחון מבטיח שציוני הביטחון של מודל יתאימו לסבירות האמיתית לנכונות בעולם האמיתי. ביישומי הגנה, הוא מסייע למפעילים לדעת מתי לסמוך, להטיל ספק או להתעלם מפלט בינה מלאכותית. הקושי העיקרי טמון בטעויות ביטחון יתר בתנאים נדירים או משתנים, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כאות אי-ודאות גלוי בהמלצות KhanBMS, ומקשר את הרעיון לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

שיטת כיול אמון

ערך מבצעי

מסייע למפעילים לדעת מתי לסמוך, להטיל ספק או להתעלם מפלט בינה מלאכותית

סיכון עיקרי

טעויות ביטחון יתר בתנאים נדירים או משתנים

תפקיד KhanBMS

אות אי-ודאות גלוי בהמלצות KhanBMS

מונחים קשורים

• בינה מלאכותית ניתנת להסבר (XAI)
  שיטות המציגות מדוע מערכת בינה מלאכותית הפיקה חיזוי, המלצה או פעולה.
• בינה מלאכותית לתמיכה בהחלטות (DSAI)
  מערכות בינה מלאכותית המסנתזות נתונים, חלופות, סיכונים והסברים עבור מפקדים או מפעילי מערכות.
• תכנון מודע-סיכון
  תכנון הממַדל במפורש אי-ודאות, אובדן, גילוי, סיכון נלווה והסתברויות לכשל משימה.
• נראות מודל
  ניטור קלט, פלט, סחיפה, שיהוי, ביטחון וכשלים של מודל לאחר פריסתו.