הוראות להכנת רעלים והיעדר פיקוח פדרלי
מומחים לביולוגיה וללוחמה בטרור, שבחנו בדיעבד את התכתובות שניהלו המשתמשים עם מודל ה-ChatGPT, קבעו כי בחלק מן המקרים המידע שסופק היה "מדויק להחריד". מרבית השאילתות, לפי הודאת החברה, עסקו ברקיחת רעלים שונים. בתגובה, OpenAI מיהרה לחסום את החשבונות של אותם משתמשים, אך באופן מעורר מחלוקת נמנעה מלדווח על כך לרשויות אכיפת החוק. הסיבה למחדל לכאורה היא היעדר חקיקה פדרלית בארה"ב המחייבת חברות טכנולוגיה לחשוף שאילתות הנוגעות לייצור נשק המוני או לתכנון מתקפות טרור המסכנות את שלום הציבור.
התכתובות שנחשפו כללו, בין היתר, בקשות לדעת כיצד להפוך פתוגנים קטלניים לאירוסול - כלומר, המרת חיידקים זיהומיים לערפל נשימתי. משתמש אחר הלך צעד קדימה וביקש לדעת כיצד לשנות גנטית את נגיף החצבת כך שההתפרצות תהיה עמידה לחלוטין בפני החיסון הקיים. משתמש נוסף, שביקש הוראות מדויקות להפקת הרעל הקטלני ריצין, פלט כבדרך אגב במהלך השיחה עם הבוט אמירה לגבי כוונתו לרצוח את הוריו. גם במקרים אלו, המשתמשים נחסמו אך הרשויות נותרו באפלה.
סיפורי סבתא לפני השינה: כך עוקפים את חומות ההגנה
"יועץ מומחה" לארגוני טרור ודילמת חופש המחקר
למרות סכנות ההשמדה הברורות, מנהלים בחברות ה-AI מדגישים את החשיבות של שמירה על מודלים גמישים ולא מצונזרים מדי. על פי הדיווח ב"וול סטריט ג'ורנל", חסימה גורפת של המילה "פתוגן" במערכות של אנתרופיק יצרה מכשול משמעותי עבור חוקרי המרכזים לבקרת מחלות ומניעתן, ה-CDC, כאשר ניסו להתחקות אחר התפרצות נגיף הנטה-וירוס על ספינת תענוגות.
התרעות פיקוד העורף