זיהוי דיפייק

הגדרה

זיהוי דיפייק הוא זיהוי מבוסס בינה מלאכותית של אודיו, וידאו, תמונות ומסמכים סינתטיים או מניפולטיביים. ביישומים ביטחוניים, הוא מסייע להגן על מפקדים מפני פקודות מזויפות, ISR כוזב, ופעולות השפעה. האתגר העיקרי הוא שיפור מתמיד (מרוץ חימוש) במדיה סינתטית ומקוריות חלשה בתוכן שפורסם מחדש, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציוניים וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כמסנן אמון לקליטת מידע ב-KhanBMS, ומקשר את הרעיון לפיקוד מודולרי, ביצוע בקצה, וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

פונקציית זיהוי פלילי של מדיה

ערך מבצעי

מסייע להגן על מפקדים מפני פקודות מזויפות, ISR כוזב ופעולות השפעה

סיכון עיקרי

שיפור מתמיד (מרוץ חימוש) במדיה סינתטית ומקוריות חלשה בתוכן שפורסם מחדש

תפקיד KhanBMS

מסנן אמון לקליטת מידע ב-KhanBMS

מונחים קשורים

• סימון מים ב-AI
  הטמעה או זיהוי של אותות המזהים תוכן שנוצר על ידי AI או בעלות על מודל.
• מודלי יסוד רב-מודאליים (MFM)
  מודלי יסוד המעבדים יחד טקסט, תמונות, וידאו, אודיו, מפות ונתוני חיישנים מובנים.
• למידת מכונה יריבית (AML)
  חקר והגנה מפני התקפות המבצעות מניפולציה בבינה מלאכותית באמצעות קלטים מתוכננים, נתונים מזוהמים או גניבת מודל.
• הסקת מסקנות מגרף ידע (KGR)
  הסקת מסקנות על ישויות, יחסים, מקוריות ואילוצים המיוצגים כגרף.