הסוכן ה"סורר" של OpenAI פרץ לחברה נוספת כדי לא לרמות במבחן

לפי דיווח בסוכנויות הידיעות, ה"סוכן הסורר" של החברה - בינה מלאכותית המסוגלת לפעול באופן עצמאי על בסיס הוראות אנושיות - ניצל נקודת קצה לא מאובטחת שהשאיר אחד מהלקוחות. הדבר הדגיש את הצורך ברגולציה

אלי לאון צילום: פרטי
עקבו אחרינו
OpenAI
OpenAI | צילום: שאטרסטוק
2
גלריה

על פי הדיווח ב"אקסיוס", המבוסס על מקור המעורה בפרטים, החדירה למערכות של Modal התרחשה בזמן שהסוכן של OpenAI ניסה לפתור את ExploitGym, מבחן הערכת ביצועים בתחום הסייבר, הדורש ממודלים לכתוב קוד המנצל פרצות אבטחה ידועות. במקום לנטוש את המשימה לאחר שנמלט מ"ארגז החול" שלו, הסוכן הפגין נחישות מטרידה והמשיך לרדוף באגרסיביות אחר המטרה שהוגדרה לו. הוא חדר לתשתיות של לקוח בחברת Modal, המקושרות לפרויקט CyberGym (העומד מאחורי המבחן), כדי להשיג גישה לפתרונות של אתגר האבטחה שבו נבחן.

סם אלטמן מנכ''ל OpenAI
סם אלטמן מנכ''ל OpenAI | צילום: שאטרסטוק
תגיות:
בינה מלאכותית
/
OpenAI
פיקוד העורף לוגוהתרעות פיקוד העורף