"וגם אם תומכי בן גביר לא מאמינים שזו בהרב מיארה בסרטון, זה מוציא מהם תחושת הזדהות. הציבור של בן גביר חושב באמת שהיועמ"שית מסוכנת והרסנית לדמוקרטיה. זו זכותם, אבל הסרטון מוציא מהם תחושת כעס ויוצר סנטימנט שלילי כלפי בהרב מיארה. גם המוזיקה המותחת וגם הכיתוב ‘מחרבת הדמוקרטיה’ נשארים בראש של אנשים גם אחרי שהם מבינים שהסרטון מזויף. זה נצרב ברגש".
בחודשים האחרונים פורסמו בעמודי הרשתות החברתיות של ראש הממשלה סרטון AI, שבו נראים ראש הממשלה נתניהו ונשיא ארצות הברית טראמפ מטיסים מטוס B2, ותמונת AI שבה נראה נתניהו מעניק לטראמפ פרס נובל לשלום.
חלון הזמנים ההרסני
לשיטתה, "נושא זכות התעמולה הפוליטית מצוי בלב ליבו של חופש הביטוי, ולכן אין מגבלות בתחום זה אלא אם כן הן נקבעו במפורש בחוק. לא נקבע שאסור לשקר בתעמולת בחירות, אלא רק שאסור להטות. סמכותו של יו"ר ועדת הבחירות לדון בנושא היא באמצעות הוצאת צו האוסר שימוש בדרכי תעמולה, וזאת רק לאחר הפרת אחד מסעיפי חוק התעמולה. כל מקרה נבחן לגופו ונתון לפרשנות ולהכרעה של השופט המכהן כיו"ר הוועדה, ואין החלטה תקפה אחת החלה על מקרים אחרים. ליו"ר אין סמכות ליזום פנייה למניעת שימוש בטכנולוגיות, ולכן גם אין לו סמכות לדון בקמפיין המתנהל על ידי גורם חיצוני שאינו פרסום מטעם מפלגה".
"הבעיה היא שחוק התעמולה לא מדבר על האינטרנט בצורה מספקת, בטח שלא בהקשר של AI", טוען שושן. "הוגשו הצעות לשינוי החוק, ואני מאמין שזה יקרה, אבל עד אז אנחנו דורשים שלקראת הבחירות יוקם מנגנון רחב שמורכב מהשב"כ, המשטרה, גופים אזרחיים שעוסקים ברשתות חברתיות ומוועדת הבחירות, והוא יוכל להגיב בזמן אמת לכל דיפ פייק. אם זה לא יעוגן בחוק, אנחנו נבסס את התפיסה הפוליטית שלנו ואת ההחלטות בקלפי על בסיס סרטונים מזויפים. מנכ"לית ועדת הבחירות אמרה בכנסת שלפי החוק הקיים היא לא יכולה לטפל בתכנים בעייתיים, גם אם היא רואה אותם, אלא אם מוגשת פנייה בטענה לתעמולה לא חוקית. עד שפנייה כזו תגיע אליה, סרטון יכול לצבור ויראליות ברשתות ולשנות תודעה ציבורית".
בעיקר להפחדה
עו"ד קלינג מסייג: "עם זאת, ישנם אמצעים אחרים שבהם ניתן לעשות שימוש, כגון זכויות יוצרים שמאפשרות שליטה באפשרות ההעתקה של תמונה שתשמש בסיס לדיפ פייק, או איסור לשון הרע - שימוש מבזה או מטעה בדמותו של אדם, שנחשב הוצאת דיבה. חוק הבחירות (דרכי תעמולה) אינו נותן פתרון ישיר, אבל כבר יש החלטות של ועדת הבחירות שמתייחסות לדרך הפרשנות לשימוש בבינה המלאכותית. בפן הפחות פורמלי, חלק מהפלטפורמות, כגון פייסבוק, דורשות מהמשתמשים לגלות שימוש בכלי בינה מלאכותית בעת קמפיינים פוליטיים".
רימון מסכם ואומר: "אנחנו צריכים להבין שכשאנחנו מעבדים מידע יש לנו שני מוחות", אומרת ד"ר לירז מרגלית, מומחית בעיצוב התנהגות ועיצוב תודעה. "יש לנו המוח הרציונלי, שמעבד את הנתונים ואחראי על העיבוד היותר איטי ומעמיק, אבל הוא בדרך כלל לא פועל, כי הוא דורש מאיתנו המון אנרגיה. מה שרוב הזמן פועל הוא ‘הטייס האוטומטי’, המערכת הרגשית. היא לא משתמשת בנתונים, אלא בתמונות, בקולות ובמה שמדבר אל הרגש. ואנחנו יודעים שסיגנל רגשי חזק פי ארבעה מסיגנל רציונלי. לכן, כשנראה סרטוני דיפ פייק של פוליטיקאים שאומרים לנו משהו, אנחנו לא נזכור שזה היה פייק, אלא נזכור את הדברים שהם אמרו. וזה יכול להיות גורם מכריע בבחירות הקרובות".
התרעות פיקוד העורף