מודלי שפה קטנים/ SLM

הגדרה

מודלי שפה קטנים הם מודלי שפה קומפקטיים הממוטבים להסקה מקומית בחומרת קצה טקטית מוגבלת. ביישומי הגנה, הם שומרים על זמינות של ניתוח טקסט, סיכום ופענוח כוונות כאשר קישורי תמיכה עורפיים נכשלים. הקושי טמון במגבלות יכולת, פערי תחום והתנהגות שבירה תחת ניסוחים חריגים, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס אליהם כגיבוי קצה-תושב השומר על שימושיות של צמתי ארבן תחת מניעת תקשורת, ומקשר את הרעיון לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

שכבת שפה בקצה

ערך תפעולי

שומר על זמינות של ניתוח טקסט, סיכום ופענוח כוונות כאשר קישורי תמיכה עורפיים נכשלים

סיכון עיקרי

מגבלות יכולת, פערי תחום והתנהגות שבירה תחת ניסוחים חריגים

תפקיד KhanBMS

גיבוי קצה-תושב השומר על שימושיות של צמתי ארבן תחת מניעת תקשורת

מונחים קשורים

• הסקה בקצה
  הפעלת מודלי AI על חומרה טקטית בנקודת החישה או הפעולה במקום להסתמך על מחשוב ענן מרוחק.
• קוונטיזציית מודלים (INT8/INT4)
  הפחתת הדיוק המספרי של מודלים לצמצום זיכרון, חֶבְיוֹן וצריכת חשמל, תוך שמירה על רמת דיוק מספקת.
• זיקוק מודלים (KD)
  שיטת אימון המעבירה התנהגות ממודל מורה גדול יותר למודל תלמיד קטן יותר הניתן לפריסה.
• מחשוב AI טקטי
  ערימת מחשוב מוקשחת להפעלת AI בכלי רכב, כלי טיס, מכשירי קשר, עמדות פיקוד ומערכות לחימה אישיות.