מחשוב AI חסוי

הגדרה

מחשוב AI חסוי הוא שימוש בהצפנה, מובלעות (enclaves) ואימות (attestation) להגנה על עומסי עבודה של AI בזמן שהנתונים בשימוש. ביישומי הגנה, הוא תומך בהסקת מסקנות קואליציונית, כוונון עדין מוגן ואירוח מודלים רגישים. האתגר טמון בתקורה בביצועים ובקושי באיתור באגים בתוך מובלעות, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציוניים וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כאפשרות אמון עבור מודלי KhanBMS המשותפים בין שותפים, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

תצורת מחשוב מאובטחת

ערך תפעולי

תומך בהסקת מסקנות קואליציונית, כוונון עדין מוגן ואירוח מודלים רגישים

סיכון עיקרי

תקורה בביצועים ואיתור באגים קשה בתוך מובלעות

תפקיד KhanBMS

אפשרות אמון עבור מודלי KhanBMS המשותפים בין שותפים

מונחים קשורים

• סביבת ביצוע מהימנה של בינה מלאכותית (AI-TEE)
  סביבה מבודדת חומרה להגנה על משקלי מודל, קלטים ותפוקות הסקה מפני מארח שנפרץ.
• מודלי AI ריבוניים (SAI)
  מודלים שאומנו, מתארחים ומנוהלים תחת שליטה לאומית או קואליציונית, במקום תלות מסחרית זרה.
• היפוך מודל
  מתקפה המסיקה נתוני אימון רגישים או תכונות מתוך פלטי מודל או גרדיאנטים.
• אבטחת מקוריות מודלים
  מעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.