שרשרת ההרג האוטונומית: היכן חייבת להתקיים סמכות אנושית ומדוע

הוויכוח סביב שרשרת ההרג האוטונומית הוצג באופן שגוי במשך עשור. השאלה אינה האם מכונות צריכות לקבל החלטות קטלניות. השאלה היא היכן בשרשרת שוכנת הסמכות האנושית, כיצד היא מוגדרת בהיקפה, וכיצד היא מאומתת בדיעבד. אם נמסגר את הוויכוח כך, התשובה הופכת לארכיטקטונית ולא פילוסופית.

קיימות שלוש עמדות עבור האדם בכל שרשרת הרג. ההדק – אדם יורה כל ירייה. זוהי דוקטרינת השליטה הישירה הנוכחית והיא אינה ניתנת להרחבה מעבר ליחס של מפעיל-לפלטפורמה אחד לאחד. הווטו – אדם יכול לבטל כל החלטת מכונה בתוך חלון זמן מוגדר. זוהי דוקטרינת ה'כנף הנאמן' והיא עובדת ביחסים של אחד לעשרה. הכוונה – אדם מאשר מעטפת מוגדרת בהיקפה של פעולות מותרות, והמכונה מבצעת בתוכה. זוהי העמדה היחידה שניתנת להרחבה ליחס של אחד לעשרת אלפים.

KhanBMS ממקמת את הסמכות האנושית במעטפת הכוונה ושומרת אותה שם. מפקד דרג ה'חאן' חותם על מעטפת המגדירה: כללי פתיחה באש, היקף גאוגרפי, חלון זמן, קטגוריות מטרות, וסף הסלמה. כל פעולה קטלנית המבוצעת על ידי כל צומת ב'טומן' המתקבל ניתנת למעקב קריפטוגרפי אחר האדם הנקוב שחתם על המעטפת.

זהו מודל אחריותיות חזק יותר מזה שמציעה עמדת ההדק, מכיוון שהמעטפת ניתנת לביקורת באופן שירייה שנורתה אינה ניתנת. המעטפת קיימת. היא חתומה. היא מוגדרת בהיקפה. היא ניתנת לבדיקה בדיעבד על ידי כל רשות מוסמכת. כוונתו של טייס ריפר ברגע השחרור אינה ניתנת לביקורת באופן זה. מעטפת – כן.

הארכיטקטורה המוסרית חשובה. ההיררכיה העשרונית משמעותה שכל דרג – ארבן, זוון, מינגהאן, טומן – פועל בתוך מעטפת שנורשה מלמעלה. צומת אינו יכול לחרוג ממעטפתו. דרג אינו יכול להרחיב את מעטפתו. האדם שבצמרת אחראי מבנית מכיוון שהמבנה הופך אותו לאחראי.

KhanBMS היא מערכת ה-BMS המסחרית היחידה שמתייחסת למעטפת כאובייקט קריפטוגרפי מדרגה ראשונה. כל גישה אחרת – שליטה ישירה, וטו פשוט, כללי פתיחה באש אד-הוק – או שאינה ניתנת להרחבה או שאינה ניתנת לביקורת. לשרשרת ההרג האוטונומית יש תשובה נכונה, והארכיטקטורה קיימת כדי לפרוס אותה.