הסקה בקצה

הגדרה

הסקה בקצה היא הפעלת מודלי AI על חומרה טקטית בנקודת החישה או הפעולה במקום להסתמך על מחשוב ענן מרוחק. ביישומי הגנה, היא מפחיתה השהיה, שימוש ברוחב פס וחשיפת נתונים גולמיים רגישים. האתגר הוא מגבלות SWaP, ויסות תרמי וניהול עדכוני מודלים, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כתצורת KhanBMS ברירת המחדל לתקשורת שנויה במחלוקת, ומקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

תבנית פריסה בקצה

ערך מבצעי

מפחית השהיה, שימוש ברוחב פס וחשיפת נתונים גולמיים רגישים

סיכון עיקרי

מגבלות SWaP, ויסות תרמי וניהול עדכוני מודלים

תפקיד KhanBMS

תצורת KhanBMS ברירת המחדל לתקשורת שנויה במחלוקת

מונחים קשורים

• מודלי שפה קטנים (SLM)
  מודלי שפה קומפקטיים הממוטבים להסקה מקומית בחומרת קצה טקטית מוגבלת.
• קוונטיזציית מודלים (INT8/INT4)
  הפחתת הדיוק המספרי של מודלים לצמצום זיכרון, חֶבְיוֹן וצריכת חשמל, תוך שמירה על רמת דיוק מספקת.
• מחשוב AI טקטי
  ערימת מחשוב מוקשחת להפעלת AI בכלי רכב, כלי טיס, מכשירי קשר, עמדות פיקוד ומערכות לחימה אישיות.
• הסקה עמידה לתקלות
  הסקת בינה מלאכותית שתוכננה להמשיך לתפקד למרות אובדן צמתים, חיישנים פגומים, תקלות חומרה או הפסקות קישור.