חדשות מתפרצות

התופעה המטרידה שתופסת תאוצה: אפליקציות AI יוצרות תמונות עירום מזויפות

אלי לאון צילום: פרטי
בני נוער, סמארטפון
בני נוער, סמארטפון | צילום: אינגאימג'

טכנולוגיית הבינה המלאכותית הפכה את היכולת "להפשיט" אנשים באופן דיגיטלי לפעולה פשוטה ומהירה, הזמינה לכל מחזיק סמארטפון. הכלים החדשים, המכונים אפליקציות "Nudify", מחוללים תמונות וסרטוני עירום מזויפים ויוצרים מגפה חדשה של בריונות, סחיטה והטרדות, במיוחד בקרב בני נוער. לפי תחקיר מקיף שפורסם ב"וול סטריט ג'ורנל", הורים ובתי ספר מוצאים את עצמם חסרי אונים מול התופעה ההרסנית, בעוד שרשויות החוק מתקשות להדביק את הפער.

בעבר, יצירת "דיפ-פייק" (זיוף עמוק) דרשה אלפי תמונות, ולכן הקורבנות העיקריים היו אנשים מפורסמים. כיום, כל אדם שברשותו תמונה אחת בלבד חשוף לפגיעה.

מחקר שנערך לאחרונה באוניברסיטת ג'ורג' מייסון חושף נתונים מדאיגים: למעלה ממחצית מתוך 557 בני נוער שהשתתפו בסקר הודו כי יצרו תמונת עירום באמצעות בינה מלאכותית, ושליש דיווחו כי תמונה שלהם זויפה והופצה. פרויקט השקיפות הטכנולוגית מצא בתחילת השנה מעל ל-100 אפליקציות מסוג זה בחנויות של אפל וגוגל, שהורדו למעלה מ-700 מיליון פעמים והניבו הכנסות של כ-117 מיליון דולר.

במאי האחרון החל הממשל האמריקני לאכוף חוק חדש שהופך פרסום של תמונות אינטימיות ללא הסכמה לעבירה פדרלית הדורשת הסרה מפלטפורמות תוך 48 שעות. במקביל, האיחוד האירופי בוחן איסור מוחלט על האפליקציות. עם זאת, הקורבנות ומשפחותיהם עדיין מרגישים שנטל האכיפה נופל עליהם, בעוד הטכנולוגיה, שכעת כוללת גם זיופי קול ובוטים מותאמים אישית, ממשיכה להשתכלל ולהשאיר צלקות עמוקות.

מבזקים - כתבות אחרונות
פיקוד העורף לוגוהתרעות פיקוד העורף