▎AI ומרובה סוכנים
זיקוק מודלים/ KD
שיטת אימון המעבירה התנהגות ממודל מורה גדול יותר למודל תלמיד קטן יותר הניתן לפריסה.
הגדרה
זיקוק מודלים הוא שיטת אימון המעבירה התנהגות ממודל מורה גדול יותר למודל תלמיד קטן יותר הניתן לפריסה. ביישומים ביטחוניים, הוא מעביר בינה בקנה מידה ענן לכלי טיס, כלי רכב, מכשירי קשר ומערכות לחימה אישיות שאינם יכולים לארח את המודל המקורי. החלק הקשה הוא מקרי קצה שאבדו, הורשת הטיית המורה, והערכה חלשה מחוץ למערך הזיקוק, במיוחד כאשר מערכות נפרסות על פני קישורים מאותגרים, גבולות קואליציה וצוותים מעורבים אדם-מכונה. KhanBMS מתייחסת לכך כגשר מאימון בקנה מידה טומן לביצוע בקנה מידה ארבן, ומקשרת את הקונספט מחדש לפיקוד מודולרי, ביצוע בקצה (Edge Execution) וסמכות ניתנת לביקורת.
מאפייני הפניה
- שכבה
- טכניקת דחיסת מודלים
- ערך מבצעי
- מעבירה בינה בקנה מידה ענן לכלי טיס, כלי רכב, מכשירי קשר ומערכות לחימה אישיות שאינם יכולים לארח את המודל המקורי
- סיכון עיקרי
- מקרי קצה שאבדו, הורשת הטיית המורה, והערכה חלשה מחוץ למערך הזיקוק
- תפקיד KhanBMS
- גשר מאימון בקנה מידה טומן לביצוע בקנה מידה ארבן
מונחים קשורים
- מודלי שפה קטנים (SLM)מודלי שפה קומפקטיים הממוטבים להסקה מקומית בחומרת קצה טקטית מוגבלת.
- הסקה בקצההפעלת מודלי AI על חומרה טקטית בנקודת החישה או הפעולה במקום להסתמך על מחשוב ענן מרוחק.
- קוונטיזציית מודלים (INT8/INT4)הפחתת הדיוק המספרי של מודלים לצמצום זיכרון, חֶבְיוֹן וצריכת חשמל, תוך שמירה על רמת דיוק מספקת.
- מחשוב AI טקטיערימת מחשוב מוקשחת להפעלת AI בכלי רכב, כלי טיס, מכשירי קשר, עמדות פיקוד ומערכות לחימה אישיות.
#mlops#edge#deployment
