סוכנים מבוססי-כלים

הגדרה

סוכנים מבוססי-כלים הם סוכנים המפעילים ממשקי API חיצוניים, מסדי נתונים, סימולטורים, חיישנים או מפעילים (אפקטורים) לביצוע משימות. ביישומי הגנה, הם מחברים מודלי חשיבה למערכות משימה אמיתיות במקום להשאיר אותם כעוזרי צ'אט בלבד. האתגר המרכזי הוא הרשאות כלים לא בטוחות, כלים מזויפים ופעולה ללא יכולת ביקורת, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציוניים וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחס לכך כאל יכולת המותרת רק באמצעות כלים חתומים, טווחי פעולה מצומצמים ויומנים הניתנים לביקורת, ובכך מקשר את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה (edge execution) וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

תבנית ביצוע סוכן

ערך מבצעי

מחבר מודלי חשיבה למערכות משימה אמיתיות במקום להשאיר אותם כעוזרי צ'אט בלבד

סיכון עיקרי

הרשאות כלים לא בטוחות, כלים מזויפים ופעולה ללא יכולת ביקורת

תפקיד KhanBMS

יכולת המותרת רק באמצעות כלים חתומים, טווחי פעולה מצומצמים ויומנים הניתנים לביקורת

מונחים קשורים

• פרוטוקול הקשר מודל (MCP)
  תבנית פרוטוקול פתוחה לחשיפת כלים, משאבים והנחיות לסוכני מודל באמצעות ממשקים סטנדרטיים.
• תבנית סוכן ReAct (ReAct)
  תבנית חשיבה ופעולה שבה בינה מלאכותית מחליפה בין מחשבה, קריאה לכלי, תצפית ופעולה הבאה.
• הגנה מפני הזרקת הנחיות
  בקרות המונעות מטקסט או תוכן בלתי מהימן לעקוף את הוראות המערכת או הכלים של סוכן מודל.
• אבטחת מקוריות מודלים
  מעקב קריפטוגרפי ופרוצדורלי אחר מקורם של מודל, מתאם, מערך נתונים או פריט.