לאחר שצמחה ועוררה התלהבות בקרב אוהבי טכנולוגיה רבים, תכנית ChatGPT חוטפת מכה. לראשונה, הבוקר (שני) הוגשה לבית המשפט המחוזי מרכז בלוד בקשה לאישור תובענה ייצוגית נגד חברת OpenAI, מפתחת ומפעילת תכנת הבינה המלאכותית הפופולרית, זאת בטענה לפגיעה בפרטיות, איסוף ושימוש במידע בניגוד לדין על המשתמשים ובפרט משתמשים קטינים ואי רישום מאגר מידע.
במסמך שהוגש נטען בין היתר: "חברת OpenAI זנחה את חובותיה כלפי המשתמשים, מה שעלול להוביל לקטסטרופה. קטינים יכולים להיכנס ולהשתמש באופן חופשי וללא כל הגבלה בתוכנת ChatGPT ולהיחשף לתכנים לא הולמים".
לדברי מגישי המסמך, "Open AI שומרת לעצמה, בניגוד לדין, את האפשרות להעביר מידע אישי של המשתמשים שלה למספר בלתי מוגבל של צדדים שלישיים, כראות עיניה וללא קבלת הסכמתם של המשתמשים מראש. החברה מחזיקה למעשה במאגר מידע עצום, אשר כולל מידע אישי של עשרות אלפים אם לא מאות אלפי ישראלים - השימוש במידע שלהם על ידי החברה מהווה פגיעה חמורה בפרטיותם".
התביעה הוגשה על ידי עורכי הדין שאול ציוני, אלי פילרסדורף, רעות זייטלבך וחן נאמן, ממשרד ציוני פילרסדורף פיליפ עורכי דין. התביעה הוגשה בשם כל המשתמשים בצ'ט ובאופן מיוחד בשם קטינים.
עו"ד שאול ציוני, ממגישי התביעה, הסביר: "בתביעה נטען כי תוכנת הבינה המלאכותית היא כלי בעל עוצמה רבה, אשר למידע המופק ממנו עשויה להיות השפעה משמעותית של התנהלותם של מאות מיליוני המשתמשים בו. על כן, היה מצופה כי חברת OpenAI, תנקוט במשנה זהירות ותדאג לכך שהמשתמשים בתוכנה יהיו לכל הפחות בגיל המתאים לכך, וכי תהיה הקפדה יתרה ביחס לשמירת הפרטיות של המשתמשים".
"אך למרבה הצער, לאור 'המירוץ' שניהלה חברת OpenAI להיות הראשונה בעולם שתציג לציבור תוכנה של בינה מלאכותית, היא זנחה כליל את חובותיה כלפי המשתמשים, בשלל היבטים. זניחת חובות אלה עלולה להוביל לקטסטרופה, לא פחות ולא יותר, ביחס לזכויות משתמשים בעולם של שימוש בבינה מלאכותית. ולא בכדי בשבועות האחרונים עלתה קריאה לעצור את הפיתוח של מוצרים אימתניים אלה", אמר.
בבקשת האישור נטען כי על אף שהחברה קבעה בעצמה בתנאי השימוש שלה כי השימוש בצ'ט בוט אסור לילדים מתחת לגיל 13 או לילדים מתחת לגיל 18 שאין להם אישור של אפוטרופוס, בפועל היא לא מבקשת במסגרת הליך ההרשמה להצהיר או לאשר שהמשתמש מעל גיל 13, לא מבקשת להציג אישור של הורה או אפוטרופוס מכל מי שמתחת לגיל 18, כך שלמעשה, קטינים יכולים להיכנס ולהשתמש באופן חופשי וללא כל הגבלה בתוכנת ChatGPT ולהיחשף לתכנים לא הולמים.
לטענת המבקשים, מדובר בהתנהלות מנוגדת לדין ומופקרת של החברה וזאת לאור העובדה שהחברה מודה בעצמה כי ChatGPT מספק לעיתים תשובות לא נכונות ותוכן כוזב ושלילי היות שאין לו כרגע מקור לאמת, כי כאשר השאלה אינה ברורה התוכנה בדרך כלל תנחש ושהתוכנה לפעמים מגיבה להוראות פוגעניות או מציגה התנהגות מוטה.
בנוסף, הוסבר בתביעה כי החברה מודה שהיא משתמשת במידע העצום והרב שהיא אוספת על המשתמשים, ביניהם קטינים, אשר כולל בין היתר את למרתוכן השיחות בצ'ט בוט לצורך "שיפור" השירותים שלה, אך היא לא מציינת מהו בדיוק השימוש שנעשה בו, כיצד הוא נשמר ומאובטח על ידה ולמשך כמה זמן היא שומרת את המידע.
החברה מציינת שהיא "עשויה" לספק מידע אישי של המשתמשים ל"צדדים שלישיים" מבלי לקבל הסכמה מראש של המשתמש, אך היא לא מגלה למשתמשים את זהותם הספציפית של אותם "צדדים שלישיים" עלומים, אלא מתארת אותם באופן עמום שאינו אומר דבר כמו "ספקים" או "צדדים לעסקה" ובכך הלכה ולמעשה שומרת לעצמה, בניגוד לדין, את האפשרות להעביר מידע אישי של המשתמשים שלה למספר בלתי מוגבל של צדדים שלישיים, כראות עיניה וללא קבלת הסכמתם של המשתמשים מראש.
בקשת האישור הוגשה ימים ספורים לאחר שהרשות להגנת הפרטיות באיטליה פתחה בחקירה כנגד חברת OpenAI והחליטה לאסור באופן זמני את פעילות ה-ChatGPT במדינה, עקב חששות כבדים לפגיעה בפרטיות המשתמשים ולאור היעדר מנגנוני סינון שמוודאים כי המשתמשים בכלי הם מעל גיל 13.
כמו כן, ב-29 למרץ, פורסם מכתב של כ-1500 אנשי טכנולוגיה מובילים, ביניהם אילון מאסק וסטיב ווזניאק, אשר דרשו לעצור למשך תקופה של שישה חודשים את "האימון" של ה- ChatGPT 4 וזאת בשל הסכנות הטמונות בפיתוח לא אחראי של תוכנות אלה לאנושות.