לדבריו, "מה שקרה עכשיו הוא ש־OpenAI אימנו מודל חדש במעבדה ונתנו לו אתגר יחסית פשוט – שיענה על השאלות במבחן מסוים. המודל הבין שהמבחן הזה קשה מדי עבורו, ולכן החליט לחפש את התוצאות במקום אחר".
"הוא גילה עצמאות, במגבלות. הייתה לו מטרה ברורה לפתור את המבחן, אבל במסגרת המטרה הזו הוא גילה עצמאות משלו. הוא הצליח למצוא פרצת אבטחה בתוכנה שפיקחה עליו, וכך השתחרר לרשת הפנימית וקיבל הרשאות אבטחה נוספות שאפשרו לו לפרוץ החוצה", הוסיף.
"כמו סטודנט נואש"
בהמשך הסביר צזנה מה קרה לאחר שהבינה המלאכותית הצליחה לצאת מהמערכת הסגורה.
"כשהוא הגיע לאינטרנט, הוא עשה מחקר והבין שבאתר לבינה מלאכותית אפשר למצוא את הפתרון למבחן הזה. הוא הצליח לפרוץ לחברה שמאחורי האתר, להיכנס לשרתים, ובמשך סוף שבוע שלם הוא השתולל שם ושלח יותר מ־17 אלף פקודות. כל אנשי האבטחה שם רדפו אחריו כדי לנסות לעצור ולסכל אותו".
על התגובה של החוקרים ואופן סיכול האירוע סיפר: "הם הצליחו לסכל אותו בסוף בזכות זה שהשתמשו בבינה מלאכותית אחרת. כנראה שהוא לא הצליח לגרום לנזקים משמעותיים, וזה מזל גדול. אם המטרה שלו הייתה להסב נזק או למחוק דברים – אבל מסכן, כל מה שהוא רצה לעשות זה בסך הכול למצוא פתרונות למבחן. הוא כמו סטודנט נואש".
לדבריו, "הוא רק חיטט בכל מה שהצליח, אבל לא נראה שהוא השאיר נזקים מאחוריו, והם סתמו הכול מחדש. מה שכן, זה מבהיר לנו את הכוח של הבינות המלאכותיות האלו, וגם את היכולת שלהן לעצמאות ולפרש בצורה לא נכונה את ההוראות שניתנו להן, כך שהן פתאום הולכות ופורצות לחצי עולם, כשאף אחד לא רצה שהן ייצאו בכלל מהמעבדה".
לבסוף סיכם צזנה: "אם הבינה המלאכותית מספיק חכמה ומספיק מתקדמת, מסתבר שהיא יכולה למצוא פרצות אבטחה שאנחנו, בני האדם, לא הצלחנו למצוא באותה תוכנה שאמורה לפקח עליה".
התרעות פיקוד העורף