מגבלות מדיניות

הגדרה

מגבלות מדיניות הן בקרות דטרמיניסטיות ומבוססות מודל המגבילות את מה שמערכות בינה מלאכותית רשאיות לומר, להחליט או לבצע. ביישומי הגנה, הן הופכות כללי פתיחה באש (ROE), סיווג, בטיחות ומגבלות משפטיות לבדיקות אכיפות בזמן ריצה. הקושי טמון בחסימת יתר, חסימת חסר וקונפליקטים בין מדיניות מודל רכה למדיניות מערכת קשיחה, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כאל הגבול בין אוטונומיה מועילה לפעולה בלתי מורשית, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

שכבת בקרת בינה מלאכותית

ערך מבצעי

הופך כללי פתיחה באש (ROE), סיווג, בטיחות ומגבלות משפטיות לבדיקות אכיפות בזמן ריצה

סיכון עיקרי

חסימת יתר, חסימת חסר וקונפליקטים בין מדיניות מודל רכה למדיניות מערכת קשיחה

תפקיד KhanBMS

הגבול בין אוטונומיה מועילה לפעולה בלתי מורשית

מונחים קשורים

• כללי פתיחה באש (ROE)
  הנחיות המגדירות את הנסיבות שבהן ניתן להשתמש בכוח.
• אדם בלולאת הפיקוח
  תבנית בקרה פיקודית שבה האדם יכול להתערב אך אינו פועל בכל שלב.
• הגנה מפני הזרקת הנחיות
  בקרות המונעות מטקסט או תוכן בלתי מהימן לעקוף את הוראות המערכת או הכלים של סוכן מודל.
• בינה מלאכותית אחראית להגנה (RAI)
  פרקטיקות ממשל המיישרות קו בין בינה מלאכותית צבאית לשימוש חוקי, אתי, אמין ואחראי.