טרנד אכזרי ומסוכן בקרב בני הנוער: הפצת תמונות עירום מזויפות ב-AI

טרנד מטריד ומסוכן בקרב בני נוער: אפליקציות בינה מלאכותית משמשות תלמידים ליצירת והפצת תמונות עירום מזויפות – ומשאירות את הנפגעות חסרות אונים, כשהן מתמודדות עם השפלה, בושה ונזק נפשי כבד

דן עזרא צילום: פרטי
אפליקציות לזיוף תמונות
אפליקציות לזיוף תמונות | צילום: רשתות חברתיות
3
גלריה

בתקופה האחרונה, עם התפתחות טכנולוגיות הבינה המלאכותית, צץ טרנד מטריד ומסוכן בקרב בני נוער בישראל: שימוש באפליקציות מבוססות בינה מלאכותית כדי "להפשיט" תמונות של נערות, לרוב תמונות שנלקחו מהרשתות החברתיות, ולהפיץ אותן בקרב תלמידים בבתי ספר. התוצאה היא הרסנית: תמונות מזויפות, שנראות מציאותיות להחריד, מופצות במהירות בקבוצות וואטסאפ וטלגרם, משאירות את הנפגעות חסרות אונים, כשהן מתמודדות עם השפלה, בושה ונזק נפשי כבד.

הנפגעות מספרות למעריב: "האמת כבר לא רלוונטית"

עינב כהן (18) חוותה את הסיוט הזה על בשרה. "הייתי חונכת שלו כשהייתי בכיתה ט' והוא בכיתה ז'״. היא מספרת למעריב. "עזרתי לו להשתלב בבית הספר, אבל הוא פיתח כלפיי אובססיה. כשלא הגבתי להודעות שלו בוואטסאפ, הוא החליט למרר לי את החיים".  ה"נקמה" של אותו נער הייתה אכזרית: הוא לקח את תמונת הפרופיל של עינב, השתמש בתוכנה מבוססת בינה מלאכותית כדי ליצור תמונת עירום מזויפת, והפיץ אותה בכל בית הספר. "לא יצאתי מהבית ימים כי פחדתי שיזהו אותי", היא משתפת. "כשחזרתי לבית הספר, שמעתי תלמידים מדברים על התמונה. כולם היו בטוחים שזה אמיתי, והאמת כבר לא הייתה רלוונטית״.

אפליקציה לזיוף תמונות
אפליקציה לזיוף תמונות | צילום: רשתות חברתיות

לירון כהן (18) מספרת על חוויה דומה: "יום אחד נכנסתי לוואטסאפ וראיתי שחברה שלחה לי סרטון שלי, לכאורה עירומה. מישהו הדביק את הפנים שלי על גוף של מישהי אחרת. הזדעזעתי. חברה שלחה לי את זה ואמרה שזה רץ בקבוצות בטלגרם. לא ידעתי איפה לקבור את עצמי". ליהיא נוי (18) חוותה טראומה דומה כשאקס שלה, שלא השלים עם הפרידה ופיתח, לטענתה - אובססיה, יצר תמונות עירום מזויפות שלה והפיץ אותן לשכבה כולה. "הוא הרס לי את החיים" היא אומרת בכאב. הוא אילץ אותי לעבור לבית ספר אחר וזה רדף אותי גם לשם, לא הייתה ברירה אלא לפרוש.

"אין לנו סמכות"

הנערות שנפגעו פנו לא פעם למערכות החינוך והמשטרה, אך התגובות שקיבלו היו מאכזבות. עינב מספרת כי מנהל בית הספר ביקש ממנה לחזור ללימודים כדי שלא ייפגעו ציוניה חרף העובדה שלא הייתה מסוגלת נפשית לצאת מביתה אחרי שהופצו התמונות, אך אותו בית הספר טען כי אין לו סמכות להשעות את הנער שהפיץ את התמונות. ולטענתה כשפנתה למשטרה, התיק נסגר לאחר שהנער מחק את הראיות והודה רק בהפצת התמונה. הוא קיבל צו הרחקה לחודשיים בלבד, ולאחר מכן חזר לבית הספר כאילו לא קרה דבר.

התופעה הזו אינה רק בעיה טכנולוגית, אלא גם חברתית. אפליקציות מבוססות בינה מלאכותית, שמאפשרות לכל אחד ליצור תמונות או סרטונים מזויפים בקלות, הפכו לכלי נשק בידי בני נוער שמבקשים לפגוע בחבריהם. התמונות המופצות מתפשטות במהירות דרך קבוצות וואטסאפ וטלגרם, והנזק לנפגעות הוא מיידי ובלתי הפיך. "התמונות האלה נראות כל כך אמיתיות״, אומרת לירון. "מי שלא מכיר אותך באמת מאמין שזה את".

הפצת תמונות מזויפות
הפצת תמונות מזויפות | צילום: רשתות חברתיות

"חייבים לעצור את זה", הנערות שנפגעו קוראות לשינוי. "אני לא רוצה שמישהי אחרת תעבור את מה שעברתי" אומרת עינב. "חייבים ללמד בני נוער שזה לא משחק, שזה הורס חיים", ליהיא מוסיפה: "צריך שתהיה אכיפה אמיתית. לא ייתכן שמישהו יוכל להרוס לך את החיים וייצא מזה בלי עונש."

בתי הספר, מצידם, נדרשים להתמודד עם אתגר חדש. מורים ומנהלים מודים כי הם חסרי כלים להתמודד עם התופעה. "אנחנו צריכים הכשרה והנחיות ברורות," אומר מנהל בית ספר מדרום הארץ. "בלי תמיכה ממשרד החינוך והמשטרה, אנחנו מוגבלים ביכולת שלנו לפעול."

עד שיימצא פתרון, נערות כמו עינב, לירון וליהיא ממשיכות לשאת את הצלקות של התופעה. "אני לא אותה בחורה שהייתי לפני המקרה" מסכמת עינב. "אבל אני רוצה להאמין שאם נדבר על זה, נוכל למנוע את הסבל של הבאה בתור".

תגיות:
הטרדה מינית
/
בינה מלאכותית
פיקוד העורף לוגוהתרעות פיקוד העורף