מסגרת לניהול סיכוני בינה מלאכותית/ AI RMF

הגדרה

מסגרת לניהול סיכוני בינה מלאכותית היא גישה מובנית לזיהוי, מדידה, ניהול ובקרת סיכוני בינה מלאכותית לאורך כל מחזור החיים. ביישומי הגנה, היא הופכת חששות מופשטים לבטיחות בינה מלאכותית לבקרות וסקירות הניתנות לחזרה. הקושי טמון בציות סמלי (checkbox compliance) ובמיפוי לקוי לקצב שדה הקרב, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחסת לכך כשכבת ממשל ש-KhanBMS יכולה למפות לסמכות משימה ובקרות אבטחה, ובכך לקשור את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

מסגרת ממשל

ערך מבצעי

הופך חששות מופשטים לבטיחות בינה מלאכותית לבקרות וסקירות הניתנות לחזרה

סיכון עיקרי

ציות סמלי (checkbox compliance) ומיפוי לקוי לקצב שדה הקרב

תפקיד KhanBMS

שכבת ממשל ש-KhanBMS יכולה למפות לסמכות משימה ובקרות אבטחה

מונחים קשורים

• בינה מלאכותית אחראית להגנה (RAI)
  פרקטיקות ממשל המיישרות קו בין בינה מלאכותית צבאית לשימוש חוקי, אתי, אמין ואחראי.
• בדיקה והערכה של אוטונומיה (T&E)
  דיסציפלינת בדיקה לאימות מערכות אוטונומיות על פני סימולציה, חומרה, ניסויי שדה ותרחישים עוינים.
• צוות אדום לבינה מלאכותית
  בדיקות יריבות מובנות של מערכות בינה מלאכותית לחשיפת התנהגות לא בטוחה, מוטה, ניתנת לניצול או שבירה.
• כרטיסי מודל להגנה
  פריטי תיעוד המתארים את ייעוד המודל, נתוני אימון, מדדים, מגבלות ושימושים מאושרים.