בינה מלאכותית אחראית להגנה/ RAI

הגדרה

בינה מלאכותית אחראית להגנה היא פרקטיקות ממשל המיישרות קו בין בינה מלאכותית צבאית לשימוש חוקי, אתי, אמין ואחראי. ביישומי הגנה, היא קובעת ציפיות לעקיבות, הטיה, אמינות, שיקול דעת אנושי והסלמה. החלק הקשה הוא עקרונות מעורפלים ללא אכיפה טכנית, במיוחד כאשר מערכות נפרסות על פני קישורים מאותגרים, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחסת לכך כשכבת המדיניות ש-KhanBMS ממירה למעקות בטיחות תוכנתיים, ומקשרת את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

תצורת ממשל בינה מלאכותית

ערך תפעולי

קובעת ציפיות לעקיבות, הטיה, אמינות, שיקול דעת אנושי והסלמה

סיכון עיקרי

עקרונות מעורפלים ללא אכיפה טכנית

תפקיד KhanBMS

שכבת המדיניות ש-KhanBMS ממירה למעקות בטיחות תוכנתיים

מונחים קשורים

• מגבלות מדיניות
  בקרות דטרמיניסטיות ומבוססות מודל המגבילות את מה שמערכות בינה מלאכותית רשאיות לומר, להחליט או לבצע.
• מסגרת לניהול סיכוני בינה מלאכותית (AI RMF)
  גישה מובנית לזיהוי, מדידה, ניהול ובקרת סיכוני בינה מלאכותית לאורך כל מחזור החיים.
• כרטיסי מודל להגנה
  פריטי תיעוד המתארים את ייעוד המודל, נתוני אימון, מדדים, מגבלות ושימושים מאושרים.
• פיקוח בינה מלאכותית עם אדם בלולאה (HOTL-AI)
  מודל בקרה פיקוחי שבו בני אדם מנטרים מערכות אוטונומיות ויכולים להתערב או לבטל.