כרטיסי מודל להגנה

הגדרה

כרטיסי מודל להגנה הם פריטי תיעוד המתארים את ייעוד המודל, נתוני אימון, מדדים, מגבלות ושימושים מאושרים. ביישומי הגנה, הם הופכים את יכולות המודל ואת מגבלותיו לגלויות למפקדים, לאינטגרטורים ולגורמי הסמכה. האתגר הוא עמידה בדרישות תיעוד ללא אכיפה מבצעית, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציוניים וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כאל חוזה המצורף לכל חבילת מודל של KhanBMS, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

פריט תיעוד של בינה מלאכותית

ערך מבצעי

הופך את יכולות המודל ואת מגבלותיו לגלויות למפקדים, לאינטגרטורים ולגורמי הסמכה

סיכון עיקרי

עמידה בדרישות תיעוד ללא אכיפה מבצעית

תפקיד KhanBMS

חוזה המצורף לכל חבילת מודל של KhanBMS

מונחים קשורים

• רשימת רכיבי AI (AIBOM)
  מלאי של מודלים, מערכי נתונים, מתאמים, כלים, תלויות, רישיונות ומקורות במערכת AI.
• רישום מודלים בקצה
  קטלוג מנוהל גרסאות העוקב אחר אילו מודלים, מתאמים, חתימות ומדיניות נפרסים לצמתים טקטיים.
• אבטחת מקוריות מודלים
  מעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.
• בינה מלאכותית אחראית להגנה (RAI)
  פרקטיקות ממשל המיישרות קו בין בינה מלאכותית צבאית לשימוש חוקי, אתי, אמין ואחראי.