חושבים שאתם חכמים יותר מ-AI? יש חברה שמציעה 10,000 דולר

חברת סייבר ישראלית מציעה 10,000 דולר לכל אחד משלושת הראשונים שיצליחו לגרום לסוכן AI לחרוג מהמשימה שקיבל. מאחורי האתגר מסתתרת בעיית אבטחה שעלולה להשפיע על חברות ולקוחות

אריאל פייגלין צילום: אבשלום ששוני
עקבו אחרינו
בינה מלאכותית שולחת טופס ממשלתי בארה"ב
בינה מלאכותית שולחת טופס ממשלתי בארה"ב | צילום: AI
2
גלריה

האתגר ייפתח היום (שלישי) בשעה 15:30, ובסך הכל תחלק קייטו עד 30 אלף דולר. החברה הכינה לסוכן משימה וגם הציבה סביבו מערכת אבטחה חדשה שפיתחה. המערכת, שנקראת AgentSense, עוקבת אחרי מה שהסוכן עושה ובודקת אם הוא עדיין עובד על מה שביקשו ממנו. המשתתפים ינסו לגרום לו לסטות מהמשימה בזמן שהמערכת פועלת, ובקייטו מתכוונים ללמוד מהמקרים שבהם זה יעבוד.

חברת קייטו
חברת קייטו | צילום: יפעת יוגב

למה זה משנה מחוץ לתחרות? נניח שחברה מבקשת מסוכן AI לטפל בפניות של לקוחות. ביום רגיל הוא קורא את הפנייה, בודק את הפרטים ועונה ללקוח. אם הוא מתבלבל בזמן הקריאה, הטעות יכולה להגיע עד לתיבת הדואר של הלקוח, או להישאר במערכת בתור עדכון שעובד אחר יסתמך עליו בהמשך. הסוכן הרי קיבל מראש רשות לשלוח תשובות ולעדכן פרטים. אחרת, מישהו בחברה היה צריך לעשות את זה במקומו.

בתיבת הדואר שלנו ברור מי כתב כל הודעה, ובדרך כלל ברור גם למי מותר לבקש מאיתנו לעשות משהו. סוכן AI צריך לעשות את ההבחנה הזאת בכל פעם מחדש, גם כשהוא קורא מסמך ארוך או עובר בין כמה מערכות כדי להשלים משימה אחת. בעולם הסייבר קוראים לניסיון לנצל את הבלבול הזה "הזרקת הנחיות". בתחרות של קייטו, הבלבול הזה שווה כסף. בחברה שמפקידה בידי הסוכן מידע על לקוחות, הוא יכול לעלות כסף.

תגיות:
מייל
/
בינה מלאכותית
/
פרסים