סימון מים ב-AI

הגדרה

סימון מים ב-AI הוא הטמעה או זיהוי של אותות המזהים תוכן שנוצר על ידי AI או בעלות על מודל. ביישומי הגנה, הוא תומך בייחוס מדיה שנוצרה ומרתיע מפני חילוץ מודלים. האתגרים העיקריים הם הסרת סימני מים, תוצאות חיוביות שגויות (False Positives), ותקנים לא עקביים בין ספקים שונים, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה, וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כאות אחד במקוריות (provenance) של KhanBMS, לעולם לא כמנגנון האמון היחיד, ומקשר את הרעיון לפיקוד מודולרי, ביצוע בקצה (edge execution), וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

מקוריות (provenance) ובקרת קניין רוחני

ערך תפעולי

תומך בייחוס מדיה שנוצרה ומרתיע מפני חילוץ מודלים

סיכון עיקרי

הסרת סימני מים, תוצאות חיוביות שגויות (False Positives), ותקנים לא עקביים בין ספקים שונים

תפקיד KhanBMS

אות אחד במקוריות (provenance) של KhanBMS, לעולם לא מנגנון האמון היחיד

מונחים קשורים

• זיהוי דיפייק
  זיהוי מבוסס בינה מלאכותית של אודיו, וידאו, תמונות ומסמכים סינתטיים או מניפולטיביים.
• חילוץ מודל
  מתקפה המשחזרת או מקרבת מודל על ידי שאילתה אליו ותצפית על הפלטים.
• אבטחת מקוריות מודלים
  מעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.
• רשימת רכיבי AI (AIBOM)
  מלאי של מודלים, מערכי נתונים, מתאמים, כלים, תלויות, רישיונות ומקורות במערכת AI.