חילוץ מודל

הגדרה

חילוץ מודל הוא מתקפה המשחזרת או מקרבת מודל על ידי שאילתה אליו ותצפית על הפלטים. ביישומי הגנה, היא יכולה לגנוב יכולות אוטונומיה, תיוג מטרות או תפיסה יקרות משירותים חשופים. החלק הקשה הוא הסוואת שאילתות ושחזור חלקי של התנהגות רגישה, במיוחד כאשר מערכות פרוסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס אליה כאיום הממוזער על ידי הגבלת קצב (rate limits), סימון מים (watermarking) וביצוע חסוי ב-KhanBMS, הקושר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

מתקפת גניבת מודל

ערך מבצעי

יכולה לגנוב יכולות אוטונומיה, תיוג מטרות או תפיסה יקרות משירותים חשופים

סיכון עיקרי

הסוואת שאילתות ושחזור חלקי של התנהגות רגישה

תפקיד KhanBMS

איום הממוזער על ידי הגבלת קצב, סימון מים וביצוע חסוי ב-KhanBMS

מונחים קשורים

• סימון מים ב-AI
  הטמעה או זיהוי של אותות המזהים תוכן שנוצר על ידי AI או בעלות על מודל.
• מחשוב AI חסוי
  שימוש בהצפנה, מובלעות (enclaves) ואימות (attestation) להגנה על עומסי עבודה של AI בזמן שהנתונים בשימוש.
• סביבת ביצוע מהימנה של בינה מלאכותית (AI-TEE)
  סביבה מבודדת חומרה להגנה על משקלי מודל, קלטים ותפוקות הסקה מפני מארח שנפרץ.
• למידת מכונה יריבית (AML)
  חקר והגנה מפני התקפות המבצעות מניפולציה בבינה מלאכותית באמצעות קלטים מתוכננים, נתונים מזוהמים או גניבת מודל.