אבטחת מקוריות מודלים

הגדרה

אבטחת מקוריות מודלים היא מעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט. ביישומי הגנה, היא מונעת ממשקלים לא ידועים או מתאמים ששונו מלהיכנס למערכות מבצעיות. האתגר העיקרי הוא שרשרות חתימה שבורות ושינויי חירום שלא תועדו, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כמאפיין אמון נדרש עבור חבילות AI מודולריות של KhanBMS, ומקשר את הרעיון לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

בקרת שרשרת אספקת AI

ערך מבצעי

מונע ממשקלים לא ידועים או מתאמים ששונו מלהיכנס למערכות מבצעיות

סיכון עיקרי

שרשרות חתימה שבורות ושינויי חירום שלא תועדו

תפקיד KhanBMS

מאפיין אמון נדרש עבור חבילות AI מודולריות של KhanBMS

מונחים קשורים

• רשימת רכיבי AI (AIBOM)
  מלאי של מודלים, מערכי נתונים, מתאמים, כלים, תלויות, רישיונות ומקורות במערכת AI.
• רישום מודלים בקצה
  קטלוג מנוהל גרסאות העוקב אחר אילו מודלים, מתאמים, חתימות ומדיניות נפרסים לצמתים טקטיים.
• אבטחת שרשרת האספקה של בינה מלאכותית
  הגנה על מערכי נתונים, משקלים, קוד, תלויות, כלי פיתוח וצינורות פריסה עבור מערכות בינה מלאכותית.
• מחשוב AI חסוי
  שימוש בהצפנה, מובלעות (enclaves) ואימות (attestation) להגנה על עומסי עבודה של AI בזמן שהנתונים בשימוש.