בינה מלאכותית סוכנת

הגדרה

בינה מלאכותית סוכנת היא מערכות בינה מלאכותית המשיגות יעדים באמצעות תכנון, שימוש בכלים, זיכרון ולולאות משוב, במקום הסקה חד-פעמית. ביישומי הגנה, היא הופכת מודלים לעובדים מוגדרים שיכולים לפרק משימות, להפעיל כלים ולתאם עם סוכנים אחרים. האתגר המרכזי הוא סטיית יעדים, שימוש לרעה נסתר בכלים, הזרקת הנחיות והתנהגות הסלמה לקויה, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציה וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחסת אליה כמארגנת של מודולי KhanBMS מהימנים, ולא כסמכות ישירה על השפעות, ובכך קושרת את הרעיון לפיקוד מודולרי, ביצוע בקצה וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

ארכיטקטורת סוכנים

ערך מבצעי

הופכת מודלים לעובדים מוגדרים שיכולים לפרק משימות, להפעיל כלים ולתאם עם סוכנים אחרים

סיכון עיקרי

סטיית יעדים, שימוש לרעה נסתר בכלים, הזרקת הנחיות והתנהגות הסלמה לקויה

תפקיד KhanBMS

מארגנת של מודולי KhanBMS מהימנים, ולא סמכות ישירה על השפעות

מונחים קשורים

• שכבת תזמור LLM
  תווכה המנתבת מודלים, הנחיות, כלים, זיכרון, אחזור, מדיניות וטלמטריה על פני זרימות עבודה של בינה מלאכותית.
• סוכנים מבוססי-כלים
  סוכנים המפעילים ממשקי API חיצוניים, מסדי נתונים, סימולטורים, חיישנים או מפעילים (אפקטורים) לביצוע משימות.
• מגבלות מדיניות
  בקרות דטרמיניסטיות ומבוססות מודל המגבילות את מה שמערכות בינה מלאכותית רשאיות לומר, להחליט או לבצע.
• סוכן תכנון משימה
  סוכן בינה מלאכותית המסייע ביצירה, תיקון וניטור תוכניות משימה תחת כוונת המפקד ואילוצים.