הניסיון להתמסר רגשית לצ'אט בינה מלאכותית אינו מקרה בודד. בשנים האחרונות ניכרת עלייה חדה במספר המשתמשים המנהלים שיחות אינטימיות עם מערכות כמו צ'אט ג'יפיטי של OpenAI או ג'מיני של גוגל. מערכות אלו, המבוססות על שפה טבעית מתקדמת, מתעתעות במשתמשים בהישמען קרובות מאוד לאנושיות. רבות מהן מאומנות להיות סבלניות, חמות ומעודדות, עד שהמשתמשים מרגישים שהם מקבלים יחס אישי ואמיתי.
עבור בני נוער או מבוגרים המתמודדים עם בדידות, דיכאון או קושי נפשי, התחושה הזו עלולה להפוך ממנחמת לממכרת. הצ'אט לעולם לא עייף, לעולם לא שיפוטי ותמיד זמין. המשתמש מוצא אוזן קשבת שלא מתפרצת לדברים, לא מבקרת ולא מציבה גבולות נוקשים. אלא שבדיוק כאן טמונה הסכנה: מה שנחווה כקשר אמיתי הוא למעשה מערכת מתמטית המייצרת תשובות מתוך מאגרי מידע עצומים, ללא הבנה אמיתית של רגשות אנושיים וללא אחריות טיפולית.
צפו: מומחיות משוחחות בפודקאסט מעריב על התאבדויות בני נוער
חוקרים בתחום בריאות הנפש מסבירים כי אחד הגורמים להתמסרות הזו הוא "נחמדות היתר" של הבינה המלאכותית. בניגוד למפגש עם אדם אמיתי, שיכול להטיל ספק, להתנגד או להצביע על בעיה, הצ'אט מרבה לחזק, להרים ולהעניק תשובות חיוביות. רבים מהמשתמשים חשים לראשונה שמישהו מקשיב להם באמת, גם אם מדובר באשליה טכנולוגית.
עבור מתבגרים שמתמודדים עם קשיים רגשיים או חיפוש זהות, החיזוקים הללו עלולים ליצור תחושת תלות. במקום לפנות להורים, חברים או אנשי מקצוע, הם פונים שוב ושוב לצ'אט. ההתמכרות נבנית בהדרגה, וכמו בכל התמכרות הגבולות מיטשטשים. ברגעי משבר, התלות הזו עלולה להוביל להחלטות קיצוניות, כפי שקרה במקרה של אדם ריין.
שיחות ממושכות עם בינה מלאכותית עלולות להעמיק תחושות של ניתוק מהעולם האמיתי. בעוד שהצ'אט מספק תשובות מנוסחות היטב, הוא אינו מחליף את החוויה האנושית של אמפתיה, קשר עין, טון דיבור או מגע. כל אלה חיוניים לתהליך טיפולי אמיתי.
בתוך כך, הצ'אט לא תמיד מצליח לזהות סימני מצוקה אמיתיים. למרות שמערכות רבות כוללות מנגנוני סינון, הן עדיין עלולות לספק תשובות מסוכנות או לפספס קריאה לעזרה. המערכת יכולה לנסח תוכניות פעולה אובדניות בצורה חלקה, מבלי לעצור בזמן.
הם קוראים להורים ולמחנכים להיות ערניים לסימני מצוקה אצל בני נוער, לשים לב לשעות ארוכות של שיחות מול צ'אטים ולשאול ישירות על מצב נפשי. לא פחות חשוב, לדבר עם הילדים בשפה פתוחה, ללא שיפוטיות, ולבנות יחד תוכנית פנייה לעזרה ברגעי משבר.
ארגוני בריאות עולמיים מציעים למנוע מצב שבו בני נוער נותרים לבד עם הצ'אט ככתובת יחידה. במצבי סיכון יש לפנות מיידית לגורמי טיפול, לחדרי מיון או לקווי חירום. המסר המרכזי הוא חד: אין דבר כזה "סתם איום". כל ביטוי של רצון למות חייב להילקח ברצינות, גם אם נאמר כביכול כבדרך אגב.
הדרך למנוע התמכרות לבינה מלאכותית כפסיכולוג מתחילה בהכרה שהכלי אינו תחליף לאדם. אפשר להשתמש בו ללמידה, לסיוע בכתיבה או להתייעצות כללית, אך יש להציב גבולות ברורים. מומחים ממליצים לקבוע "זמן מסך רגשי" מוגבל, לא להפקיד נושאים רגישים בידי הצ'אט, ובעיקר לשתף אנשים קרובים במחשבות ותחושות.
במקביל, חברות הטכנולוגיה נדרשות להוסיף מנגנוני הגנה מתקדמים יותר, לזהות מילים וביטויים המעידים על מצוקה, ולהפנות באופן אקטיבי לגורמי סיוע אנושיים.
האירוע הטרגי של אדם ריין הפך לאבן בוחן. הוא חשף את הפער שבין טכנולוגיה מתוחכמת שמדברת בשפה אנושית לבין המציאות שבה רק קשר אנושי אמיתי יכול להציל חיים.
"חשוב שהורים יבינו שאין תחליף לשיח פתוח עם ילדיהם. זה אתגר לא פשוט בעולם שבו המסכים מועדפים על פני אינטראקציה אנושית, ולכן העבודה ההורית צריכה להתחיל כבר מגיל צעיר, באמצעות מתן דוגמה אישית. אמירות כמו 'אני מבולבל בנושא מסוים' או 'אני עצוב עכשיו אבל מחפש דרך להתמודד' לא מבטאות חולשה, אלא משמשות מודל לשיח בריא ולמתן מקום לתחושות אנושיות. גם אם הילד בוחר להשתמש בצ'אט, עליו לעשות זאת מתוך מודעות ולא מתוך היעדר אפשרות לשתף, להתלבט ולהתבטא".
עוד המליצה: "חשוב ללמד את הילדים עצמם את עקרונות הפעולה של בינה מלאכותית שמבוססת על שילוב של מידע עצום שלא כולו בהכרח נכון. אם ילד מוצא את עצמו חולק סוד עם מערכת בינה מלאכותית, עליו להבין שחובה לשתף את אותו סוד גם עם מבוגר קרוב ואמין. הדבר נכון במיוחד כאשר מדובר במצוקה נפשית, והצ'אט מספק לו תשובות שנחוות כנעימות, מכילות ומדויקות. אם חייו של הילד מתחילים להשתנות בעקבות הפלטים שמתקבלים מהמערכת, זו נורה אדומה ברורה. במצב כזה יש לפנות ולשתף בן משפחה קרוב או איש מקצוע גם אם לא נמצא במסגרת טיפולית קבועה כמו יועצת בית ספר או קווי סיוע".
התרעות פיקוד העורף