▎AI ומרובה סוכנים
אבטחת שרשרת האספקה של בינה מלאכותית
הגנה על מערכי נתונים, משקלים, קוד, תלויות, כלי פיתוח וצינורות פריסה עבור מערכות בינה מלאכותית.
הגדרה
אבטחת שרשרת האספקה של בינה מלאכותית היא הגנה על מערכי נתונים, משקלים, קוד, תלויות, כלי פיתוח וצינורות פריסה עבור מערכות בינה מלאכותית. ביישומי הגנה, היא מתייחסת למחזור החיים של הבינה המלאכותית כחלק ממשטח התקיפה המבצעי. הקושי העיקרי הוא חבילות שנפרצו, מערכי נתונים שהורעלו, משקלים שדלפו ושיבוש מערכות בנייה, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כתנאי מקדים לאמון באוטונומיה המבצעית של KhanBMS, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.
מאפייני הפניה
- שכבה
- דיסציפלינת אבטחה
- ערך מבצעי
- מתייחס למחזור החיים של הבינה המלאכותית כחלק ממשטח התקיפה המבצעי
- סיכון עיקרי
- חבילות שנפרצו, מערכי נתונים שהורעלו, משקלים שדלפו ושיבוש מערכות בנייה
- תפקיד KhanBMS
- תנאי מקדים לאמון באוטונומיה המבצעית של KhanBMS
מונחים קשורים
- אבטחת מקוריות מודליםמעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.
- רשימת רכיבי AI (AIBOM)מלאי של מודלים, מערכי נתונים, מתאמים, כלים, תלויות, רישיונות ומקורות במערכת AI.
- הרעלת נתוניםמתקפה המשחיתה נתוני אימון או כוונון עדין כדי להחדיר התנהגות שגויה או לפגוע בביצועים.
- MLOps לביטחון (MLOps-D)שיטות עבודה מחזוריות לבנייה, בדיקה, אישור, פריסה, ניטור ועדכון של בינה מלאכותית צבאית.
#security#supply-chain#mlops