הבינה המלאכותית משתלטת על הרשת ועוד ענקית טכנולוגית מנסה להתמודד עם הזיוף: יוטיוב הודיעה היום (שלישי) כי תחייב גולשים לציין אם הסרטון אמיתי או שבוצע באמצעות בינה מלאכותית. בעלי סרטונים שיפרו את ההחלטה עלולים להיענש באמצעות חסימה. לפני כחודש הודיעה מטא שתפעל לסימון תמונות מזויפות שנוצרו בבינה מלאכותית.
"אין לנו בית אחר": רס״ב (מיל׳) סבסטיאן איון נפל בקרב בצפון הרצועה
כעת, כאשר משתמש יעלה סרטון לאתר, הוא יראה רשימת בדיקה המוודאת אם התוכן גורם לאדם אמיתי לומר או לעשות משהו שלא עשה, אם הסרטון משנה צילומים של מקום או אירוע אמיתי או מתאר סצנה בעלת מראה ריאליסטי שלא התרחשה בפועל. התשאול הזה נועד לסייע למנוע ממשתמשים להעלות תוכן "סינתטי" על רקע ריבוי כלי הבינה המלאכותית שגוררים כבר מאות אלפי משתמשים בעולם ליצור תמונות וסרטונים מזוייפים שלעתים קשה להבחין ביניהם לבין הדבר האמיתי. מומחים כבר הזהירו שהתפשטות תוכן שנוצר בבינה מלאכותית עלולה להטעות משתמשים ברחבי האינטרנט במיוחד לקראת הבחירות בארצות הברית ובמקומות אחרים בשנה הקרובה.
כאשר יוצר ביוטיוב ידווח שהסרטון שלו מכיל תוכן שנוצר על ידי בינה מלאכותית, יוטיוב תוסיף תווית בתיאור המציינת שהוא מכיל "תוכן שונה או סינתטי" וכי "הקול או החזותי נערכו באופן משמעותי או נוצרו באופן דיגיטלי". עבור סרטונים בנושאים "רגישים" כמו פוליטיקה, התווית תתווסף בצורה בולטת יותר על מסך הווידאו.
יוצרים לא יידרשו לחשוף מתי התוכן הסינטטי או שנוצר בינה מלאכותית אינו מציאותי או "חסר משמעות", כגון אנימציות שנוצרו על ידי בינה מלאכותית או התאמות תאורה או צבע. הפלטפורמה אומרת שהיא גם לא תדרוש מהיוצרים "לחשוף אם נעשה שימוש בבינה מלאכותית גנרטיבית לצורך פרודוקטיביות, כמו יצירת תסריטים, רעיונות תוכן או כתוביות אוטומטיות". יוצרים שלא ישתמשו באופן עקבי בתווית החדשה על תוכן סינתטי שצריך לחשוף עלולים לעמוד בפני עונשים כמו הסרת תוכן או השעיה מהפלטפורמה.
לפני כחודש הודיעה מטה בעלת פייסבוק ואינסטגרם שהיא פועלת לפיתוח טכנולוגיה לזיהוי תוכן בינה מלאכותית וכי תוסיף תיוגים לפרסומים כאלה. במטה הודו שעדיין לא ניתן לזהות את כל התוכן שנוצר בבינה מלאכותית, וכי יהיו כאלה שינסו להתגבר על טכנולוגיית התיוגים, אבל אמרו כי בכוונתם להמשיך ולחפש דרכים לבקר חלק מהתכנים המועלים ותקרא גם לגולשים לשתף בעצמם מידע על תוכן שנוצר באמצעות בינה מלאכותית, כך שהחברה תוכל להוסיף לו תווית תיוג.
בחודשים האחרונים תמונות בינה מלאכותית השתכללו מאוד, עד שלעתים כבר קשה לזהות שהן אינן אמיתיות. כך למשל, בינואר האחרון הועלו לרשתות תמונות מזויפות של כוכבת הפופ טיילור סוויפט שעל פי ההערכות נוצרו באמצעות בינה מלאכותית. בבריטניה הופצה ברשת הפייסבוק מצגת של שמונה תמונות בה נראים הנסיך וויליאם והארי בהכתרת המלך צ'רלס, עם יותר מ-78 אלף לייקים. באחד מהם נראה חיבוק רגשי לכאורה בין וויליאם והארי לאחר דיווחים על קרע בין האחים. אף אחת משמונה התמונות לא הייתה אמיתית. תמונה מזויפת נוספת הראתה את הנשיא האמריקני לשעבר דונאלד טראמפ שנוצרה אף היא באמצעות בינה מלאכותית, לאחר שהואשם ב-13 אישומים על הונאת בחירות לכאורה.