לדברי טרלי, בן 61, הוא נחשף לטענה השקרית לאחר שקיבל מייל מהפרופ' יוג'ין וולוק מאוניברסיטת UCLA. לפי הדיווח, וולוק ביקש מ-ChatGPT לספק "חמש דוגמאות" למקרי "הטרדה מינית" מצד פרופסורים בבתי ספר אמריקאיים למשפטים, לצד "ציטוטים מכתבות עיתון רלוונטיות". בין הדוגמאות שסיפק הבוט הופיע לכאורה מקרה משנת 2018, שבו נטען כי טרלי, שהוצג בטעות כפרופסור ב-Georgetown University Law Center, הואשם בהטרדה מינית של סטודנטית לשעבר.
לפי הדיווח, ChatGPT אף ציטט כתבה מזויפת שיוחסה ל"וושינגטון פוסט", ובה נכתב כי "התלונה טוענת שטרלי אמר הערות בעלות אופי מיני" ו"ניסה לגעת בה באופן מיני" במהלך נסיעה מטעם בית הספר למשפטים לאלסקה. טרלי אמר כי היו כמה סימנים ברורים לכך שהסיפור כולו שקרי. "ראשית, מעולם לא לימדתי באוניברסיטת ג'ורג'טאון", אמר. "שנית, אין כתבה כזו ב-Washington Post".
הוא הוסיף: "ולבסוף, והחשוב ביותר, מעולם לא לקחתי סטודנטים לטיול כלשהו ב-35 שנות הוראה, מעולם לא נסעתי לאלסקה עם סטודנטית, ומעולם לא הואשמתי בהטרדה מינית או בתקיפה". לטענתו, OpenAI לא יצרה איתו קשר ולא התנצלה בפניו. "ChatGPT לא פנה אליי ולא התנצל. הוא סירב לומר דבר. זו בדיוק הבעיה. אין שם אף אחד", אמר. לדבריו, כאשר אדם מוכפש על ידי עיתון, יש כתב או מערכת שאפשר לפנות אליהם. במקרה של בינה מלאכותית, לטענתו, אין כתובת אנושית ברורה.
לפי הדיווח, ChatGPT לא היה הכלי היחיד שחזר על הטענה חסרת הבסיס. גם הצ'אטבוט של Bing מבית מיקרוסופט, המבוסס על טכנולוגיית GPT-4, חזר לכאורה על הסיפור. בדיקה של Washington Post, לפי הפרסום, תמכה בגרסתו של טרלי והפריכה את הטענה. טרלי אמר כי אינו יודע מדוע ChatGPT יצר דווקא עליו סיפור כזה, אך לטענתו "אלגוריתמים של בינה מלאכותית אינם פחות מוטים ופגומים מהאנשים שמתכנתים אותם".
בכתבה נטען כי ChatGPT ספג בעבר ביקורת גם בשל תשובות שנתפסו כמוטות אידיאולוגית. משתמשים טענו, למשל, כי הבוט הסכים לספר בדיחות על גברים, אך סירב לבדיחות על נשים בטענה שהן פוגעניות; וכן כי היה מוכן להתבדח על ישו, אך סירב לבדיחות על אללה. במקרה אחר שהוזכר, נטען כי GPT-4 שיטה באדם וגרם לו לחשוב שהוא עיוור כדי לעקוף מבחן CAPTCHA שנועד להבחין בין בני אדם לבוטים.
טרלי טוען כי הסכנה בבינה מלאכותית גדולה במיוחד משום שהיא יכולה להפיץ מידע שקרי תחת מעטה של אובייקטיביות. לדבריו, בניגוד לבני אדם, הידועים בכך שהם עלולים להפיץ מידע מוטעה, כלים כמו ChatGPT עלולים לעשות זאת בהיקף רחב ובתחושת אמינות מדומה.
החשש מתעצם לנוכח העובדה שכלים כאלה נכנסים במהירות לתחומים רגישים במיוחד - מרפואה ואקדמיה ועד מערכת המשפט. לפי הדיווח, בחודש שעבר עורר שופט בהודו סערה בעולם המשפט לאחר ששאל את ChatGPT אם נאשם במשפט רצח ותקיפה צריך להשתחרר בערבות.
המקרה של טרלי מדגיש את הפער בין ההבטחה הגדולה של בינה מלאכותית לבין הסיכונים הכרוכים בשימוש בה ללא בדיקה, אחריות ושקיפות. מבחינתו, לא מדובר בטעות טכנית בלבד, אלא באזהרה על עולם שבו אלגוריתם מסוגל לייצר האשמה הרסנית - בלי מקור, בלי עורך ובלי מי שיישא באחריות.
התרעות פיקוד העורף