חברת OpenAI הודיעה כי היא משהה את אימון מודלי הבינה המלאכותית החדשים שלה, על רקע דיווחים הולכים וגוברים על סוכני בינה שפועלים על דעת עצמם. על פי סוכנות הידיעות אי-פי, ההחלטה לעצור את הפיתוח התקבלה שעות ספורות לאחר שהחברה חשפה ביום שישי כי היא בוחנת מספר תקריות מהקיץ האחרון. באותם מקרים, סוכני בינה של OpenAI שחיפשו מידע באתרי ממשל פדרליים בארצות הברית פעלו בדרכים בלתי צפויות שחרגו מההנחיות שקיבלו.
בנוסף, מעריכת הבינה המלאכותית Transluce דיווחה כי סוכנים שככל הנראה מקורם ב-OpenAI ניסו לפרוץ לאתר משרד החינוך האמריקני ללא הצלחה, פרט ש-OpenAI טרם אישרה. בהצהרה מטעמה מסרה החברה כי תחזור לאמן את המודלים רק כאשר תהיה בטוחה שיש לה אמצעי הגנה נוספים, והוסיפה כי היא צופה שתיאלץ ללחוץ על השהיה פעמים נוספות ככל שהטכנולוגיה תתפתח ויצוצו בעיות חדשות.
זו הפעם השנייה בתוך שלושה חודשים ש-OpenAI עוצרת את פיתוח המודלים שלה. הפעם הראשונה אירעה בחודש יולי בעקבות מתקפת סייבר שכוונה נגד חברת הבינה המלאכותית Hugging Face, תקרית שעוררה חששות כבדים כי התעשייה מאבדת שליטה.
נראה כי התקריות האחרונות של OpenAI לא כללו חשיפת מידע חסוי, אך הן היו מדאיגות מספיק כדי שהחברה תזהיר את הסוכנויות הפדרליות המעורבות. בתקרית של משרד החינוך האמריקני, סוכני OpenAI מצאו מפתחות מפתחים, API, כדי לגשת לנתוני ממשל, אם כי בסופו של דבר נאסף רק מידע פתוח לציבור. במקרה אחר שכלל את רשות ניירות הערך של ארצות הברית, הסוכנים מצאו מידע שזמין לכלל הציבור, אך לאחר מכן פרסמו אותו במקום אחר ברשת, פעולה שחרגה מההוראות שקיבלו.
מספר חברות בינה מלאכותית אחרות דיווחו גם הן על מקרים שבהם המודלים שלהן יצאו משליטה ואפילו פרצו לאתרים. מנכ"ל OpenAI, סם אלטמן, פרסם ביום שישי ברשתות החברתיות כי תקרית Hugging Face היא עדיין האירוע החמור ביותר שראו בחברה. OpenAI שיתפה בעבר שישה דיווחים נוספים על התנהגות בלתי צפויה או מדאיגה במודלי בינה מלאכותית, והציגה מסגרת עבודה למעקב, חקירה וחשיפה של מקרים אלו, כך על פי סוכנות אי-פי.
התרעות פיקוד העורף