מערכת מאובטחת: מה מותר לסוכן AI לראות מנתוני העסק

המאמר הזה עוסק במערכת מאובטחת, גם כשהכלי הטכני נשמע אחרת. במסעדה היום נראה כך: הזמנות שולחן בוואטסאפ, תפריט שמשתנה בעל פה, ומשלוחים אצל מי שענה ראשון. לכל אחד יש מה שהוא צריך לראות, ואין לו את השאר. זה כולל את הסוכן ואת הבוט. מגדירים תפקידים, שמים סיסמה שלא עוברת בוואטסאפ, ובודקים מי נכנס. מערכת מידע, סוכן AI ובוט וואטסאפ חולקים הרשאות. חיבור בלי הרשאה הוא פרצה, לא יתרון. הרשאה יורדת ביום שעובד עוזב. לא נשארת כי שכחו. לא שמים את כל העסק אצל ספק אחד בלי לדעת איפה המפתחות. את השאר של המאמר כדאי לקרוא כהסבר: איך בית תוכנה בונה את זה בלי להשאיר את הצוות עם הדגמה, ואיך יודעים שהמערכת אמיתית.

חיבור AI לנתוני עסק מכפיל יכולת: תמיכה מקבלת תשובות מעוגנות, אנליסטים טיוטים מהר יותר, ותפעול מסווג קלט מבולגן. זה גם מכפיל נתיבי יצוא - כל פרומפט עלול להפוך לייצוא בלתי מכוון אם אדריכלים ישנים.

מזעור נתונים הוא הבקרה הראשונה: שלחו את הקטע הקטן ביותר שפותר את המשימה, קצצו כותרות בלתי נחוצות, והעדיפו צבירה או פסאודונימים על פני מזהים גולמיים. שאלו אם המודל צריך את כל המסמך או רק פסקאות ספציפיות.

הרשאות חייבות לעטוף אחזור - אל תסמכו על המודל "לסרב בנימוס". משכו רק רשומות שהמשתמש המאומת רשאי לראות והעבירו קטעים מצומצמים. רשמו גישה יחד עם קריאות מודל לחקירות.

איזון לוגים בין דיבוג לדליפה: טשטשו מספרי כרטיסי תשלום, מזהי ממשלה ואסימונים; הגבילו שמירת פרומפטים; הצרו RBAC לכלי התצפית. נקודות קצה של מודל חיצוני שייכות למלאי עיבוד הנתונים ולסקרי סיכוני ספק.

הזרקת פרומפט שייכת למודל האיום גם בפנים: תוכן זדוני או שגוי בכרטיס, PDF או דף אינטרנט בקלט יכול לנסות לעקוף הוראות. הפרידו הוראות מנתונים, סננו פלט לפעולות כלים והגבילו פעולות בלתי הפיכות.

חפיפה רגולטורית הולכת ומתרחבת בהרבה שיפוטים: דיני פרטיות שולטים בעיבוד נתונים אישיים בעוד מסגרות ייעודיות ל-AI מוסיפות שקיפות, ניהול סיכונים ותיעוד למערכות בעלות השפעה גבוהה. מפו יכולות עם ייעוץ משפטי במקום להניח ש"פנימי בלבד" פטור.

חוזים ו-DPA צריכים לשקף תת-מעבדים, העברות בין מדינות, אילו פיצ׳רים שולחים נתונים לאן, והגדרות ספק שמשפיעות על לוגים, שמירה או שימוש באימון בתוכן לקוח.

הדרכת עובדים קצרה וקונקרטית: בלי סיסמאות, מספרי כרטיס מלאים או ייצואי לקוחות לא מאושרים לממשק צ׳אט. תרגול תגובה לאירוע כולל ביטול אסימונים, רוטציה והערכת היקף כמו בכל SaaS.

לסיכום: פיצ׳ר של AI הוא עיבוד נתונים, גם כשהממשק נראה חכם. ממזערים נתונים, אוכפים הרשאה לפני שקוראים למודל, ומנהלים לוגים וספקים בקפידה. הניסוח המשפטי צריך להיות ברור. אמון מגיע ממערכת שמניחה שתהיה טעות, ויודעת להכיל אותה.

אפשר לחזור מכאן לשיחה פשוטה: תביאו מי רואה היום לקוחות, כספים ותעודות, גם אם זה "כולם, כי ככה יצא". אפשר לפתוח את המערכת בבוקר בלי לפחד שמישהו לקח איתו את המפתח הביתה. ההצעה נשארת אותה הצעה: סוכני AI, מערכת מידע ובוט וואטסאפ, עם אישור אנושי, דרך ספק רשמי של Meta.