הבטחת זמן ריצה לבינה מלאכותית/ RTA-AI

הגדרה

הבטחת זמן ריצה לבינה מלאכותית היא ארכיטקטורת בטיחות המנטרת את תפוקות הבינה המלאכותית ועוברת לגיבוי מאומת כאשר ההתנהגות חורגת מהגבולות. ביישומי הגנה, היא מאפשרת למערכות לומדות לפעול קרוב למעטפות מאושרות מבלי לסמוך עליהן בעיוורון. החלק הקשה הוא מנטרים לקויים, מעברי גיבוי לא בטוחים, וגבולות לא ברורים, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה, וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחסת לכך כעוטף בטיחות של KhanBMS לאוטונומיה שיכולה להשפיע על מצב תנועה או מצב משימה, ומקשרת את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה, וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

ארכיטקטורת בטיחות

ערך תפעולי

מאפשר למערכות לומדות לפעול קרוב למעטפות מאושרות מבלי לסמוך עליהן בעיוורון

סיכון עיקרי

מנטרים לקויים, מעברי גיבוי לא בטוחים, וגבולות לא ברורים

תפקיד KhanBMS

עוטף בטיחות של KhanBMS לאוטונומיה שיכולה להשפיע על מצב תנועה או מצב משימה

מונחים קשורים

• אבטחת פעולה בזמן ריצה (RTA)
  ארכיטקטורת בטיחות המנטרת ומתגברת על אוטונומיה בלתי מהימנה בזמן ריצה.
• ארכיטקטורת סימפלקס
  תבנית אבטחת זמן ריצה עם בקר גיבוי מאומת ומנטר החלטות.
• הסקה עמידה לתקלות
  הסקת בינה מלאכותית שתוכננה להמשיך לתפקד למרות אובדן צמתים, חיישנים פגומים, תקלות חומרה או הפסקות קישור.
• פיקוח בינה מלאכותית עם אדם בלולאה (HOTL-AI)
  מודל בקרה פיקוחי שבו בני אדם מנטרים מערכות אוטונומיות ויכולים להתערב או לבטל.