אחריותיות בינה מלאכותית במערכות קטלניות: כיצד פיקוד עשרוני הופך כל פעולה לניתנת למעקב

אחריותיות במערכות קטלניות אוטונומיות הייתה נושא מחקר במשך חמש עשרה שנים, ולא מציאות הנדסית ניתנת לפריסה באף אחת מהן. הסיבה היא ארכיטקטונית: רוב פלטפורמות ה-BMS אינן יכולות לעקוב אחר פעולה אוטונומית ספציפית לאחור דרך גרף הפיקוד שלהן עד לסמכות אנושית מוגדרת בשמה. המעקב קיים במחברת המפעיל, לא במערכת.

KhanBMS פותר זאת באמצעות שלוש פרימיטיבים ארכיטקטוניים. מקוריות כוונות קריפטוגרפית: כל מעטפה נחתמת על ידי סמכות בדרגת חאן מוגדרת בשמה ועוברת בירושה כלפי מטה דרך ההיררכיה העשרונית. חלוקה עשרונית לתאים: כל דרגה – ארבן, זוון, מינגהאן, טומן – בעלת היקף מוגדר ומנהיג מוגדר בשמו. יומני פעולה חתומים: כל פעולה קטלנית מתועדת עם מזהה המעטפה שאישרה אותה, הדרגה שביצעה אותה, וחותמת הזמן שבה היא התרחשה.

התוצאה היא גרף מקוריות מלא. כל פעולה – שיגור טיל, פגיעה במטרה, אי-פגיעה בבלתי-מעורב – ניתנת למעקב לאחור דרך הארבן המבצע, הזוון ההורה שלו, המינגהאן ההורה, הטומן ההורה, והחאן החותם. הגרף קריפטוגרפי, בלתי ניתן לשינוי, וניתן לביקורת.

כך נראית אחריותיות בינה מלאכותית בפועל בצורה ניתנת לפריסה. לא מסמך מדיניות. לא ועדת ביקורת אתית. מעבר גרף שמסתיים בחתימה אנושית מוגדרת בשמה. מסגרת אמנות ז'נבה כבר מניחה שסוג כזה של מעקב קיים בפעולות מאוישות; KhanBMS מאפשרת את קיום אותו מעקב בפעולות אוטונומיות.

פיקוד עשרוני הוא המאפשר המבני. לרשת אוטונומית שטוחה אין היררכיה ניתנת לביקורת. עץ ללא גורם הסתעפות קבוע וקטן אינו יכול להיות מובן לאדם. ההיררכיה העשרונית – בדיוק עשרה כפופים לכל מנהיג – היא המבנה המאפשר למבקר אנושי לעקוב ולהבין גרף פעולה בקנה מידה של עשרת אלפים צמתים.

כל מערכת BMS מסחרית אחרת מתייחסת לאחריותיות כתכונה שיש להוסיף מאוחר יותר. KhanBMS מתייחסת אליה כאל הארכיטקטורה עצמה. כאשר בית משפט או מבקר כללי שואל מי אישר פעולה, התשובה היא חתימה. החתימה היא הארכיטקטורה. הארכיטקטורה היא התשובה.