חלוקת מודלים

הגדרה

חלוקת מודלים היא חלוקת שכבות מודל או מומחים בין התקנים, כך שניתן יהיה להריץ הסקה על מערכת מבוזרת. ביישומי הגנה, היא מאפשרת למבנים לאגד כוח חישוב מבלי לשלוח את כל הנתונים הגולמיים או כל מודל לכל צומת. האתגרים העיקריים הם שגיאות מיקום, קפיצות חביון וכשל של מחיצה קריטית, במיוחד כאשר מערכות פרוסות על פני קישורים שנויים במחלוקת, גבולות קואליציוניים וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כשיטת שיתוף חישוב עבור אשכולות ברמת Zuun של KhanBMS, ומקשר את הרעיון לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

טכניקת פריסת AI מבוזרת

ערך מבצעי

מאפשר למבנים לאגד כוח חישוב מבלי לשלוח את כל הנתונים הגולמיים או כל מודל לכל צומת

סיכון עיקרי

שגיאות מיקום, קפיצות חביון וכשל של מחיצה קריטית

תפקיד KhanBMS

שיטת שיתוף חישוב עבור אשכולות ברמת Zuun של KhanBMS

מונחים קשורים

• הסקה מפוצלת
  ארכיטקטורת הסקה המפצלת מודל בין התקני קצה לבין יכולות חישוב מקומיות או מרוחקות חזקות יותר.
• תערובת מומחים (MoE)
  ארכיטקטורת מודל המפעילה תת-רשתות מומחיות עבור אסימונים או משימות שונות כדי להגדיל יכולת ביעילות.
• מחשוב AI טקטי
  ערימת מחשוב מוקשחת להפעלת AI בכלי רכב, כלי טיס, מכשירי קשר, עמדות פיקוד ומערכות לחימה אישיות.
• הסקה עמידה לתקלות
  הסקת בינה מלאכותית שתוכננה להמשיך לתפקד למרות אובדן צמתים, חיישנים פגומים, תקלות חומרה או הפסקות קישור.