▎AI ומרובה סוכנים
כוונון עדין חסכוני בפרמטרים/ PEFT
משפחה של שיטות המאפשרות התאמה אישית של מודלים גדולים באמצעות אימון חלק קטן מהפרמטרים.
הגדרה
כוונון עדין חסכוני בפרמטרים הוא משפחה של שיטות המאפשרות התאמה אישית של מודלים גדולים באמצעות אימון חלק קטן מהפרמטרים. ביישומי הגנה, הוא מפחית עלויות וחשיפה לסיווג בעת כוונון מודלים למשימות או זירות ספציפיות. הקושי טמון בצימוד נסתר למודל הבסיס ובבדיקות רגרסיה חלשות לאחר שינויי מתאמים, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כדרך לשלוח מודיעין ספציפי לזירה כמודולים ניתנים להחלפה, ובכך מקשר את הרעיון לפיקוד מודולרי, ביצוע בקצה, וסמכות ניתנת לביקורת.
מאפייני הפניה
- שכבה
- משפחת התאמת מודלים
- ערך מבצעי
- מפחית עלויות וחשיפה לסיווג בעת כוונון מודלים למשימות או זירות ספציפיות
- סיכון עיקרי
- צימוד נסתר למודל הבסיס ובדיקות רגרסיה חלשות לאחר שינויי מתאמים
- תפקיד KhanBMS
- דרך לשלוח מודיעין ספציפי לזירה כמודולים ניתנים להחלפה
מונחים קשורים
- התאמה בדרגה נמוכה (LoRA)טכניקת כוונון עדין המעדכנת מטריצות פירוק דרגה קטנות במקום את כל משקלי המודל.
- כרטיסי מודל להגנהפריטי תיעוד המתארים את ייעוד המודל, נתוני אימון, מדדים, מגבלות ושימושים מאושרים.
- MLOps לביטחון (MLOps-D)שיטות עבודה מחזוריות לבנייה, בדיקה, אישור, פריסה, ניטור ועדכון של בינה מלאכותית צבאית.
- אבטחת מקוריות מודליםמעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.
#llm#mlops#deployment