היורה שביצע מסע הרג השתמש ב-ChatGPT - כעת המשפחות יצאו בגל תביעות נגד OpenAI

משפחות קורבנות טוענות כי התראות פנימיות על התנהגות מסוכנת ב-ChatGPT לא הועברו לרשויות, חרף המלצות צוות בטיחות; החברה דוחה את הטענות ומתמודדת עם גל תביעות נוסף

לוגו מעריב צילום: מעריב אונליין
עקבו אחרינו
סם אלטמן מנכל OPENAI
סם אלטמן מנכל OPENAI | צילום: רויטרס
3
גלריה

האירוע עורר סערה ציבורית רחבה בקנדה ובארצות הברית, במיוחד לאחר שפורסם כי התנהלותו של היורה ב-ChatGPT סומנה חודשים לפני המתקפה על ידי צוות הבטיחות של OpenAI. לפי הפרסומים והטענות בתביעות, זוהו בשיחותיו אזכורים חוזרים של אלימות בנשק.

OpenAI. הממציאה של צ'אט ג'יפיטי
OpenAI. הממציאה של צ'אט ג'יפיטי | צילום: שאטרסטוק

לטענת התובעים, ההחלטה התקבלה מתוך שיקולים שאינם בטיחותיים בלבד, אלא גם מתוך רצון להגן על מוניטין החברה ועל שוויה. עוד נטען כי OpenAI הציגה מצג שלפיו חסמה את המשתמש לאחר שזוהה, אך בפועל, כך נטען, הוא הצליח ליצור חשבון נוסף ולהמשיך להשתמש במערכת, כולל לצורך תכנון המתקפה. בנוסף, חלק מהתביעות טוענות כי לחברה הייתה "ידיעה בפועל" על סכנה אפשרית, אך היא לא פעלה בהתאם לרמת הסיכון שזוהתה.

OpenAI מסרה גם כי היא פועלת לחיזוק מנגנוני הבטיחות שלה, לרבות שיפור זיהוי מצבים של סיכון והסלמת טיפול במקרים של חשש לאלימות. החברה פרסמה בנוסף מסמך הסבר שבו תוארו דרכי ההתמודדות שלה עם משתמשים בעלי התנהגות מסוכנת.

סם אלטמן, מנכ''ל openAI
סם אלטמן, מנכ''ל openAI | צילום: רויטרס

במקביל, OpenAI מתמודדת גם עם בדיקה פלילית נוספת בארצות הברית, הקשורה לשימוש קודם ב-ChatGPT בהקשר של אירוע ירי אחר בפלורידה, שבו נהרגו ונפצעו מספר בני אדם. הפרשה מעוררת דיון רחב יותר סביב אחריותן של חברות טכנולוגיה לזיהוי וסיכול סיכונים בזמן אמת, והגבולות שבין פרטיות משתמשים, אוטומציה של מערכות בינה מלאכותית וחובת דיווח לרשויות אכיפה.

תגיות:
פיגוע ירי
/
קנדה
/
OpenAI
/
סם אלטמן
/
ChatGPT
פיקוד העורף לוגוהתרעות פיקוד העורף