▎AI ומרובה סוכנים
סביבת ביצוע מהימנה של בינה מלאכותית/ AI-TEE
סביבה מבודדת חומרה להגנה על משקלי מודל, קלטים ותפוקות הסקה מפני מארח שנפרץ.
הגדרה
סביבת ביצוע מהימנה של בינה מלאכותית היא סביבה מבודדת חומרה להגנה על משקלי מודל, קלטים ותפוקות הסקה מפני מארח שנפרץ. ביישומי הגנה, היא מאפשרת למודלים רגישים לרוץ על חומרת שותף או קצה מבלי לחשוף משקלים או סודות. הקושי טמון בערוצי צד, תמיכה מוגבלת במאיצים, ומורכבות אימות, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה, וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס אליה כשורש אמון חומרתי עבור מודולי AI בעלי ערך גבוה של KhanBMS, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה, וסמכות ניתנת לביקורת.
מאפייני הפניה
- שכבה
- שכבת ביצוע חסויה
- ערך תפעולי
- מאפשר למודלים רגישים לרוץ על חומרת שותף או קצה מבלי לחשוף משקלים או סודות
- סיכון עיקרי
- ערוצי צד, תמיכה מוגבלת במאיצים, ומורכבות אימות
- תפקיד KhanBMS
- שורש אמון חומרתי עבור מודולי AI בעלי ערך גבוה של KhanBMS
מונחים קשורים
- מחשוב AI חסוישימוש בהצפנה, מובלעות (enclaves) ואימות (attestation) להגנה על עומסי עבודה של AI בזמן שהנתונים בשימוש.
- חילוץ מודלמתקפה המשחזרת או מקרבת מודל על ידי שאילתה אליו ותצפית על הפלטים.
- אבטחת מקוריות מודליםמעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.
- הסקה בקצההפעלת מודלי AI על חומרה טקטית בנקודת החישה או הפעולה במקום להסתמך על מחשוב ענן מרוחק.
#security#hardware#deployment