פעולות נגד AI

הגדרה

פעולות נגד AI הן פעולות המאתרות, משבשות, מטעות או מנצלות מערכות AI וצינורות נתונים של האויב. ביישומי הגנה, הן מזהות מודלים של AI, חיישנים ו-MLOps כמערכות מבצעיות ניתנות לתקיפה. החלק הקשה הוא הסלמה, ייחוס והשפעות בלתי צפויות מסדר שני, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס אליהן כמימד תכנון מתפתח של KhanBMS לצד לוחמה אלקטרונית (EW), סייבר ואש, וקושר את התפיסה בחזרה לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

תחום משימה ללוחמת AI

ערך מבצעי

מזהה מודלים של AI, חיישנים ו-MLOps כמערכות מבצעיות ניתנות לתקיפה

סיכון עיקרי

הסלמה, ייחוס והשפעות בלתי צפויות מסדר שני

תפקיד KhanBMS

מימד תכנון מתפתח של KhanBMS לצד לוחמה אלקטרונית (EW), סייבר ואש

מונחים קשורים

• למידת מכונה יריבית (AML)
  חקר והגנה מפני התקפות המבצעות מניפולציה בבינה מלאכותית באמצעות קלטים מתוכננים, נתונים מזוהמים או גניבת מודל.
• הגנת סייבר אוטונומית
  מערכות בינה מלאכותית המאתרות, ממיינות, מכילות ומגיבות לאיומי סייבר באמצעות אוטומציה מוגבלת.
• לוחמת AI מדומה
  שימוש בסוכני AI ובסימולציות כדי לבחון מהלכי אויב, תגובות כוחותינו ודינמיקת מערכה.
• מבצעי ספקטרום אלקטרומגנטי (EMSO)
  תורת לחימה משולבת המשלבת לוחמה אלקטרונית וניהול ספקטרום כתחום אחד.