השדרוג יופעל על ידי Imagen 3, הגרסה העדכנית של מחולל טקסט לתמונת AI של גוגל. ענקית הטכנולוגיה העלתה בהשקה שקטה את Imagen 3 דרך קטגוריית AI Test Kitchen המאפשרת לבחון גרסאות נסיוניות של תכונות חדשות. כעת המנוע יגיע ל- Gemini – מנוע הבינה המלאכותית, ויוכל ליצור כל דבר, מנוף פוטוריאליסטי ועד ציורי שמן שנוצרו באמצעות פקודה של כמה מילים.
גוגל השהתה את היכולת של ג'מיני ליצור תמונות אנשים בפברואר לאחר שמשתמים גילו שהיא יצרה תמונות היסטוריות שקריות או לא מדוייקות. לדברי גוגל, הדגם המשודרג מגיע עם אמצעי הגנה מובנים ומתפקד לדבריה בצורה טובה בהשוואה לדגמי יצירת תמונות אחרים זמינות.
האתר לא יאפשר למשתמשים ליצור תמונות פוטוריאליסטיות של אישי ציבור, תוכן הכולל קטינים, או סצנות אלימות ומיניות. גוגל מתכננת להרחיב את היכולת ליצור אנשים שנוצרו בבינה מלאכותית ליותר משתמשים ושפות בקרוב. כך או כך, פיצ'ר ה- Imagen שונה מ- Remagine החדש של גוגל, שמאפשר לשלב אלמנטי בינה מלאכותית בתמונות שצולמו בליין החדש של החברה באמצעות טלפוני Pixel 9 של גוגל.
כזכור בפברואר השנה חברת מטה, הבעלים של פייסבוק אינסטגרם ות'רדס, אמרה שהיא מקדמת פיתוח של כלים שיאפשרו לה לזהות תמונות שנוצרו על ידי בינה מלאכותית, במטרה להילחם בדיפ פייק – יצירת תמונות שקריות ברשת.
לפי ההערכות מאז 2022 נוצרו כמעט 20 מיליארד תמונות בינה מלאכותית שהועלו לאינטרנט, ביניהם גם תמונות מזוייפות של אנשים ציבוריים או פרטיים שהועלו ללא הסכמתם, או מידע מוטעה על רקע פוליטי שנועד לעוות את האמת.
כבר זמן רב שמטה ושאר ענקיות הרשתות החברתיות יודעות שלא תהיה להם ברירה אלא לעשות משהו בנידון. כבר בשנה שעברה העבירה בריטניה את חוק הבטיחות המקוון שהופך את העלאת תמונות מזוייפות של אדם ללא הסכמתו לפשע.
מחוקקים בארה"ב כבר אמרו בעבר שנכשלו בחובתם לשמור על בטיחות המשתמשים באינטרנט, ושרק חקיקה תחייב את הרשתות החברתיות לפעול כדי למנוע הפצת פייק ניוז. המהלך של מטה, יוביל על פי ההערכות גם חברות אחרות לבנות סטנדרטים של אמון ובקרה על המידע שמתפרסם.
במטה הודו שעדיין לא ניתן לזהות את כל התוכן שנוצר בבינה מלאכותית, וכי יהיו כאלה שינסו להתגבר על טכנולוגיית התיוגים, אבל אמרו כי בכוונתם להמשיך ולחפש דרכים לבקר חלק מהתכנים המועלים ותקרא גם לגולשים לשתף בעצמם מידע על תוכן שנוצר באמצעות בינה מלאכותית, כך שהחברה תוכל להוסיף לו תווית תיוג.
התרעות פיקוד העורף