סוכני AI: מתי סוכן ומתי תהליך קבוע

המאמר הזה עוסק בסוכני AI, גם כשהכלי הטכני נשמע אחרת. אצל קבלן שיפוצים היום נראה כך: הצעות מחיר בוואטסאפ, תמונות בגלריה, וסטטוס העבודה אצל מנהל העבודה. הסוכן ממיין פניות, מכין טיוטה ומסמן מה דחוף. הוא לא שולח ללקוח לפני שאישרתם. הפנייה נכנסת למערכת המידע, הסוכן מציע תשובה בעברית פשוטה, ואתם מאשרים או מתקנים בשורה אחת. הסוכן עובד מתוך מערכת המידע ומתוך בוט הוואטסאפ. בלי המערכת הוא עונה באוויר. בלי הבוט הלקוח נשאר בשיחה נפרדת. הסוכן רואה רק את התיקים של התפקיד שאישרתם, לא את כל העסק. הסוכן לא סוגר עסקה, לא משנה מחיר ולא מוחק רשומה. אלה נשארים אצל אדם. את השאר של המאמר כדאי לקרוא כהסבר: איך בית תוכנה בונה את זה בלי להשאיר את הצוות עם הדגמה, ואיך יודעים שהמערכת אמיתית.

זרימות דטרמיניסטיות מקודדות ענפים מפורשים: אותם קלטים עוברים אותו מסלול, מה שמקל על בדיקות ותאימות רגולטורית. לולאות בסגנון "סוכן" מתכננות מחדש לפי תוצאות ביניים - שימושי כשהכללים משתנים תכופות - במחיר שונות בין ריצות דומות.

הדפוס הבשל באמצע העשור השני של שנות ה-2020 הוא היברידי: אורקסטרציה נוקשה לשלבים שמזיזים כסף, ומודלים לסיווג וטיוטה בתוך מעקות. צוותים דיווחו על פחות הפתעות כש"שכבת החשיבה" לא יכולה לעקוף שכבת מדיניות.

בחרו בצינור קבוע כשביקורת או רואה חשבון שואלים "הראה את הנתיב המדויק." בדקו ענפים, צרפו חבילות ראיות, והגבילו עלות והשהיה כי המסלול חסום. סוכנים מתאימים לסיוע במחקר, לסיווג הצעות ולסיכום כששונות נסבלת.

הסיכון גדל כשכלי רבי עוצמה שולחים דוא"ל, גובים תשלום או מוחקים נתונים. רשימות לבנה של כלים, ולידציה של ארגומנטים ואישור אנושי לפעולות בלתי הפיכות הם בסיס. ספי ביטחון צריכים להפנות הצעות חלשות לתור, לא ללקוחות.

עלות והשהיה גדלים עם עומק הלולאה. נתבו מודלים קטנים ומהירים לכוונה; השתמשו במטמון לתת-משימות יציבות; שלחו למודל יקר רק כשהכוונה אינה ברורה.

הערכה לסוכנים שונה מבדיקות יחידה: החזיקו סוויטת תרחישים וסקירה אנושית שוטפת של דגימות trace. שימו לב לרגרסיה כשספקים מעדכנים מודלים יסוד - התנהגות משתנה בלי semver.

תצפית שומרת מבנה - שם כלי, השהיה, תוצאה - לא בהכרח PII גולמי. קשרו spans לזהות עסקית עם בקרת גישה. רטוט לפני אחסון ארוך טווח.

הזרקת פרומפט מתוך מסמכים בלתי מהימנים נשארת מודל איום; הפרידו הוראות מנתונים; אל תבצעו פקודות מעטפת ישירות מתוך פלט ללא ארגז חול.

מוכנות ארגונית חשובה: מדריכי מוקד, תקציבי שגיאות וסבבי on-call לזרימות מבוססות סוכן. אחרת "אוטומציה חכמה" נשארת פרויקט של מהנדס יחיד.

לסיכום: ברירת המחדל לדטרמיניזם כשחזרתיות והשפעה קריטית; הוסיפו סוכנות מבוקרת כשיש שונות אמיתית - תמיד עם מדיניות כלים, נקודות אנוש לפעולות רגישות ותצפית שמסבירה החלטות בעת חקירה.

אפשר לחזור מכאן לשיחה פשוטה: תביאו עשר פניות אמיתיות מהשבוע, בלי שמות אם אסור, ואת התשובה שהייתם שולחים בעצמכם. בבוקר רואים תור של טיוטות, לא תיבה אינסופית. מה שאישרתם אתמול כבר יצא. מה שלא, מחכה. ההצעה נשארת אותה הצעה: סוכני AI, מערכת מידע ובוט וואטסאפ, עם אישור אנושי, דרך ספק רשמי של Meta.