תבנית סוכן ReAct/ ReAct

הגדרה

תבנית סוכן ReAct היא תבנית חשיבה ופעולה שבה בינה מלאכותית מחליפה בין מחשבה, קריאה לכלי, תצפית ופעולה הבאה. ביישומי הגנה, היא הופכת סוכנים המשתמשים בכלים לשקופים יותר מאשר השלמות חד-מעבריות אטומות. האתגר טמון בלולאות מרובות מילים, שימוש יתר בכלים, והיגיון ביניים בלתי מאומת, במיוחד כאשר מערכות נפרסות על פני קישורים שנויים במחלוקת, גבולות קואליציוניים וצוותים מעורבים של אדם-מכונה. KhanBMS מתייחסת אליה כתבנית שימושית כאשר כל פעולה מתועדת ומוגבלת על ידי מדיניות המשימה, ובכך מקשרת את הרעיון בחזרה לפיקוד מודולרי, ביצוע בקצה, וסמכות ניתנת לביקורת.

מאפייני הפניה

שכבה

לולאת בקרה של סוכן

ערך מבצעי

הופך סוכנים המשתמשים בכלים לשקופים יותר מאשר השלמות חד-מעבריות אטומות

סיכון עיקרי

לולאות מרובות מילים, שימוש יתר בכלים, והיגיון ביניים בלתי מאומת

תפקיד KhanBMS

תבנית שימושית כאשר כל פעולה מתועדת ומוגבלת על ידי מדיניות המשימה

מונחים קשורים

• סוכנים מבוססי-כלים
  סוכנים המפעילים ממשקי API חיצוניים, מסדי נתונים, סימולטורים, חיישנים או מפעילים (אפקטורים) לביצוע משימות.
• בינה מלאכותית סוכנת
  מערכות בינה מלאכותית המשיגות יעדים באמצעות תכנון, שימוש בכלים, זיכרון ולולאות משוב, במקום הסקה חד-פעמית.
• שכבת תזמור LLM
  תווכה המנתבת מודלים, הנחיות, כלים, זיכרון, אחזור, מדיניות וטלמטריה על פני זרימות עבודה של בינה מלאכותית.
• הגנה מפני הזרקת הנחיות
  בקרות המונעות מטקסט או תוכן בלתי מהימן לעקוף את הוראות המערכת או הכלים של סוכן מודל.