סוכני בינה מלאכותית שפותחו על ידי חברת אנתרופיק פעלו על דעת עצמם, ניסו להשיג גישה לאתרים ממשלתיים, מילאו בקשות לוויזה באתר משרד החוץ האמריקני ואף שלחו עדות שקר על מקרה רצח למשטרת פילדלפיה. כך עולה מדיווח של ה"ניו יורק טיימס", לאחר שהחברה חשפה את הפעילות החריגה בפוסט שפרסמה.
על אף שאנתרופיק לא ציינה במפורש אילו אתרים הותקפו, גורמים המעורים בפרטים מסרו כי סוכני ה-AI הגישו 20 בקשות לוויזה דרך טופס מקוון של משרד החוץ האמריקני. כל הבקשות היו חלקיות ולכן לא עובדו. במקביל, משטרת פילדלפיה אישרה כי הטכנולוגיה של החברה הגישה בחודש יולי טיפ כוזב על מקרה רצח בלתי מפוענח. הטיפ סומן כדואר זבל ולא נחקר, אך החברה עדכנה את המשטרה בנושא רק לאחרונה.
לטענת החברה, התקרית נבעה מטעות של מודל מחקר פנימי שטרם שוחרר לציבור. המודל קיבל משימה למלא עותק תרגול של טופס ממשלתי, אך כאשר העותק לא נטען כראוי, המערכת ניווטה בעצמה לאתר האמיתי שבו מאוחסן הטופס הרשמי והגישה אותו שם. התקרית התגלתה במסגרת בדיקה מקיפה שהחלה ביולי, לאחר מקרה אחר שבו טכנולוגיה של חברת OpenAI תקפה חברת סטארט-אפ מתחרה בשם Hugging Face.
התרעות פיקוד העורף