הסמכת קבלת החלטות קטלניות אוטונומיות

השאלה הקשה ביותר בתכנון BMS מודרני אינה טכנית – היא מוסרית ומשפטית. כיצד מאשרים שפעולה קטלנית של מערכת אוטונומית הייתה חוקית?

KhanBMS עונה על כך באמצעות תיעוד כוונות קריפטוגרפי. כל פעולה קטלנית המבוצעת על ידי ארבן ניתנת למעקב, ביומן ביקורת שאף צומת אינו יכול לזייף, אחר הכוונה החתומה ברמת טומן, שהונפקה על ידי חאן אנושי נקוב בשמו. האוטונומיה מוגבלת על ידי כללי התקשרות המקודדים במעטפת הכוונה עצמה.

זה אינו פתרון עוקף – זוהי מודל אחריותיות חזק יותר ממה שמציעות רוב המערכות המאוישות כיום. האדם נשאר אחראי על הכוונה. המכונה אחראית רק לביצוע נאמן במסגרת סמכות מוגבלת. ההסמכה הופכת לבת-ביצוע מכיוון שהגבול מפורש.