רשימת רכיבי AI/ AIBOM

הגדרה

רשימת רכיבי AI היא מלאי של מודלים, מערכי נתונים, מתאמים, כלים, תלויות, רישיונות ומקורות במערכת AI. ביישומי הגנה, היא מסייעת לצוותים לעקוב אחר נכסי מודיעין הנמצאים בתוך יכולת מבצעית פרוסה. הקושי העיקרי הוא אילן יוחסין (ליניאז') חלקי וקישור חלש לגרסאות זמן ריצה (runtime) בפועל, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס אליה כדרישת KhanBMS לאוטונומיה מודולרית מהימנה, המקשרת את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

פריט תיעוד של שרשרת האספקה

ערך מבצעי

מסייעת לצוותים לעקוב אחר נכסי מודיעין הנמצאים בתוך יכולת מבצעית פרוסה.

סיכון עיקרי

אילן יוחסין (ליניאז') חלקי וקישור חלש לגרסאות זמן ריצה (runtime) בפועל.

תפקיד KhanBMS

דרישת KhanBMS לאוטונומיה מודולרית מהימנה.

מונחים קשורים

• כרטיסי מודל להגנה
  פריטי תיעוד המתארים את ייעוד המודל, נתוני אימון, מדדים, מגבלות ושימושים מאושרים.
• אבטחת שרשרת האספקה של בינה מלאכותית
  הגנה על מערכי נתונים, משקלים, קוד, תלויות, כלי פיתוח וצינורות פריסה עבור מערכות בינה מלאכותית.
• אבטחת מקוריות מודלים
  מעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.
• MLOps לביטחון (MLOps-D)
  שיטות עבודה מחזוריות לבנייה, בדיקה, אישור, פריסה, ניטור ועדכון של בינה מלאכותית צבאית.