בשנים האחרונות אנחנו רואים יותר ויותר פרוייקטים שהם מוזיקאים ואמנים שהלכו לעולמם "מועלים באוב" דיגיטלית. זה החל כשזמרים כמו מייקל ג'קסון וטופאק הוחזרו מן המתים בהולגרמה על הבמה, כשמהותית הדבר לא שונה בהרבה משידור וידאו מוקלט, אל מאז כניסת טכנולוגיית הבינה המלאכותית לחיינו, מתפרסמים שירים בקולם של זמרים שעזבו את העולם. לאחרונה שמענו את השיר "כאן לעולם" של עפרה חזה וזוהר ארגוב, וכמה שירים של "הביטלס", לרוב עד כה התגובות לא היו ממש תומכות, גם להקת "אבבא" מקיימת מופע הולוגרמות שדווקא זוכה להצלחה לא מבוטלת.
בהקשר זה, נשאלות השאלות האם מדובר בשימור זיכרון המת או השימוש ציני, איזה סוגיות אתיות מעלות יצירות של אמנים מתים, האם זה גימיק חולף או משהו שיתפוס, מי למעשה הוא האחראי ל"עזבונו" של אמן, והאם כל מי שירצה ייצור מוזיקה של אמן מת, או שיש חשיבות לכך שילדיו או ממשיכיו של האמן יוציאו תוכן "רשמי".
"צריך להבחין בין סוגים שונים של 'החייאה' של מתים", מציין ד"ר טל מורס, חוקר תקשורת ומוות, המכללה האקדמית הדסה ירושלים. "ההולוגרמות, כמו במקרה של טופאק, הן יצירת 'נוכחות' של המת במרחב שלנו. ככל שהטכנולוגיה יותר טובה, זה נראה יותר טוב מסתם וידאו. אבל, זו סוג של הקלטה של ביצוע של השיר שאכן התרחש במציאות ואכן בוצע על ידי הזמר\ת. (להבנתי, במקרה של טופאק, ההולוגרמה שלו לא מבוססת על צילום וידאו אחד, אלא על הרכבה ושיחזור של מספר רב של צילומים ושימוש באלגוריתמים לדמות את התנועה שלו במרחב). השירים של חזה וארגוב ושל הביטלס הם רק שמע, בלי חוזי, והם 'הקלטות' שלא בוצעו מעולם על ידי הזמרים. הן רק מבוססות על דגימות קול שלהם, ואולי על חיקוי של הסגנון המוזיקלי. אבל בניגוד להולוגרמות, זה לא שיחזור של משהו שהתרחש, אלא יצירה חדשה לחלוטין".
מורס, חוקר בחוג לתקשורת צילומית ובחוג לפוליטיקה ותקשורת במכללה האקדמית הדסה ירושלים, ערך מחקר חדש בו בחן את תגובות הציבור לתופעת השימוש בטכנולוגיית בינה מלאכותית ליצירת אווטרים של אנשים שמתו. מורס ביצע ניתוח מעמיק של דעות ותגובות הציבור בקשר לשימוש בטכנולוגיה מתקדמת זו, המאפשרת ליצור אווטר של אדם שמת על בסיס המידע הדיגיטלי שהשאיר ברשת, תמונות ודגימות קול. המחקר מתקשר לנושאים רבים ביניהם זיכרון, הנצחה וטכנולוגיה ומשקף את השיח הציבורי בסוגיה "תיקשור" עם המתים. תוצאות המחקר מגלות שלמרות שטכנולוגיות חדשות מתקבלות בדרך כלל בהתלהבות, כאשר מדובר על פרקטיקות של התמודדות עם שכול והנצחת המתים, הציבור נרתע מהחדשנות ומעדיף לדבוק במסורת. עם זאת, הממצאים מלמדים שפעילות אקטיבית ברשת (פרסום פוסטים ותמונות) מפחיתה את הרתיעה מסוג כזה של אינטראקציות. לכן, לא מן הנמנע שבעתיד, הנכונות לאמץ טכנולוגיות לתיקשור דיגיטלי עם ייצוגים של מתים תהיה גבוהה יותר.
"בעיני זה לגמרי ציני. שימוש בטכנולוגיה חדשה כדי לעשות עוד כסף מאמנות ישנה", אומר בועז כהן, שדרן אקו99, מוזיקאי ומרצה לתרבות. "אני מאמין שנוכל לראות את כל הלהקות הגדולות והאמנים הענקיים בהופעות-הולוגרמה. ההצלחה הכבירה של 'VOYAGE' בלונדון מבטיחה שזה הולך לקרות. מדובר בפוטנציאל כלכלי עצום ובלתי נדלה. הולוגרמה היא עדיין האמן עצמו והשירים שלו. בינה מלאכותית שכותבת שירים שהביטלס מעולם לא הכירו – זו כבר בעיה אתית-מוסרית, ואני אישית לא אוהב הונאות. אחד הדברים היפים באמנות, זו האותנטיות של היצירה עצמה".
עומקו של הפייק
"לא רק אמנים, כולנו, טורחים לא מעט על יצירת דימוי עצמי, הזדהות עם ערכים, שאיפה לסטנדרטים גבוהים בתחומי העיסוק שלנו וכו'", מוסיף מורס. "כל עוד אנחנו חיים, יש לנו יכולת להגיב לסיטואציות והקשרים שונים, יש לנו שליטה מסוימת על הדימוי העצמי שלנו, ויש לנו גם את היכולת להשתנות ולהתפתח. ההחייאות הדיגיטליות לוקחות את השליטה על הפרסונה הזאת מאיתנו. אנחנו כבר לא יכולים לחשוב, להגיב, ולבחור איך להציג את עצמנו את אישיות שלנו או את תפיסת העולם שלנו. משהו שנראה כמונו (במקרה של DeepFake) או שנשמע כמונו (כמו במקרים של דגימות הקול) פועל בשמנו, בלי שיש לנו יכולת שליטה בדברים".
"אנו נמצאים בתקופה של פייק שבה הטכנולוגיה מרחיקה אותנו בקלות מהאמת"', אומר ד"ר מתן אהרוני, מבית הספר לתקשורת באוניברסיטת אריאל. "בתגובה אנשים מחפשים אחר האמת והאותנטי. הם רוצים שגם אווטרים דיגיטליים יתאימו לדמות האמיתית שיוצרת אותם. לכן ישנן קריאות ברשתות לחזור לאמיתי ובלי פילטרים. דוגמא מייצגת לכך התרחשה לפני ארבע שנים, כשהרשת סערה מבחינה אתית על כך שכוכבת הרשת פרסיליה קשתי הפרידה בצורה דרמטית והפוכה בין הדמות שלה ברשת, כשנראתה מבלה במקומות אקזוטיים בעולם (אותם צילמה מראש), לבינה, בזמן שהיא מרצה את עונשה בבית הכלא על הודאה באשמת תאונת פגע וברח".
"לזה נוספה כיום טכנולוגיית הבינה המלאכותית (AI)", ממשיך אהרוני. "היא מאפשרת ליצור דברים חדשים מחומרים ישנים של אנשים, חלקם כבר מתים, שלא ברצונם ולא באישורם נעשים אך עדיין אותם הם מייצגים. מהלך זה מוסיף ומערער על הנחות היסוד של האתיקה (של היצירה), פוגע בזכרון המתים, ומלמד כי נדרשת רגולציה לטכנולוגיה, שכרגע מקדימה את הבירוקרטיה".
"במקרה המוסיקלי, כשעושים קאברים לאמנים שהלכו לעולמם או מסמפלים קטעי מוסיקה שלהם זה מוגדר הומאז' וזה נתפס כזאנר לגיטימי, כי ידוע שזה לא האומן עצמו שמשנה את היצירה, אלא זו יצירה חדשה של האומן המבצע", ממשיך אהרוני. "כשמייקל ג'קסון מוקרן בהולוגרמה, זה עדיין דמותו המוקלטת ושיריו שלו המוצגים בקולו שלו. וזה לגיטימי כל עוד לא עושים מניפולציות עליו ועל שיריו. אולם, כשטכנולוגיה מאפשרת להחיות אמנים מתים עם יצירה מוסיקלית חדשה שלא אישרו אך מוצגת בדמותם ובסגנון הישן שיוחס להם, זו כבר בעיה אתית ופגיעה בזכר המתים ובמה שהם מייצגים.
"כך נעשה לאחרונה בדואט של זהר ארגוב ועפרה חזה בשם 'כאן לעולם' שהופק על ידי כאן 11. הטכנאים שיצרו את השיר החדש בעזרתה של טכנולוגיית AI שמשחזרת את קולם ומאפייניהם של האמנים, יוצרים בשמם של המתים משהו שאולי לא היו רוצים בכך, גם אם זה נעשה באישור המשפחה. ייתכן והאמנים המתים היו רוצים להתאים עצמם לרוח התקופה מבחינת סגנון השירה ולא להישמע כפי שנשמעו בעבר. אולי גם לא היו מתחברים לתוצאה, למילים ולאג'נדה מאחורי פרסום השיר. לדוגמה, במקרה של הדואט, יש סיבה למה בחייה עפרה חזה לא שרה דואט עם זהר ארגוב. ייתכן וגם כך שהוא הואשם באונס לא תרם לכך. כלומר השניים לא ייצגו דברים דומים. לכן החיבור הכפוי שנעשה בדואט שלהם הוא בעיה, שייתכן ועפרה חזה הייתה טוענת שזה עלול לפגוע בזכרה.
"גם המסחריות או במקרה זה הקידום/השיווק הסמוי של ערוץ כאן 11, שנלחם על קיומו והרלוונטיות שלו, אולי לא היה מאושר על ידם שייקרא כאן (11) לעולם (לתמיד). וביחד עם כל אלה, כששומעים את השיר מבינים כי הטכנולוגיה עדיין מרגישה כנעדרת נשמה, כך שהשיר החדש מרגיש קצת מנוכר. ואנו עוד רק בתחילתו של שינוי טכנולוגי משמעותי ביותר, הדורש התייחסות רגולטורית מתאימה. ועד אז, נוכל רק לבקש להניח למתים ולהותיר ליהודים לקדש את ערך הזכרון שכל כך חשוב להם, בלי להעלות באוב זמרים שאין ספק שגם בלי מניפולציה דיגיטלית זכרם חרוט היטב בזכרון הקולקטיבי הישראלי".
זיכרון פרטי או ציבורי
"במקרה של דמויות ציבוריות, זה קצת יותר מורכב, כי הדמויות האלו הופכות מתישהו לחלק מהתרבות שלנו", טוענן מורס מנגד. "וכמו שעשויים ליצור קריקטורה או לשחזר בסרט עלילתי את הדמות (נניח "הכתר"), יש כאן מפגש בין חירות אומנותית של היוצרים החדשים ובין האמת ההיסטורית. הדמויות הציבוריות, במידה מסוימת הן 'שלנו', של התרבות שלנו. ומותר לנו 'להשתמש בהן' במידה מסויימת (בכפוף לחוק). לגבי חזה וארגוב, אני לא מכיר מספיק את התעשייה, אבל על פניו, הם פעלו בישראל באותן שנים והיו יכולים לשתף פעולה. הם לא עשו זאת. יתכן שמתוך בחירה. האם מותר ליצור משהו שמנוגד לבחירה שלהם? ובהמשך לנקודה על האפשרות שלנו להשתנות ולהגיב – האם זמרת כמו עופרה חזה היתה בוחרת לשתף פעולה עם זמר שהורשע באונס, בשנים שאחרי me too? האם השיר עומד בסטנדרטים האומנותיים של הזמרים והם היו בוחרים לבצע את השיר לו היו חיים? אנחנו לא יודעים. אנחנו יכולים רק לנחש. אבל הפרויקט הזה סוג של 'כפה את עצמו' על הזמרים ועל המורשת האומנותית שלהם".
למה להמציא אם אפשר להחיות את המתים?
"מות המקוריות - האם חיי הנצח של אומני העבר יהרגו או התרבות של המחר", שואל ד"ר אסא שפירא. "אני מאמין כי החזרה ל'חיים' של אומנים הוא ביטוי טכנולוגי חדש לתופעה ישנה, הנטייה מטעמים מסחריים לשכפול תרבותי של אומנים ויצירות כדי למצות מהם עוד ערך כלכלי. זה פשוט כלכלי יותר מאשר לנסות ולייצר בסיס לקוחות ומעריצים ליצירות ולאומנים חדשים. מדובר בחשיבה כלכלית פשוטה, למה לדוגמא לנסות לייצר סופר גיבור חדש אם אפשר לקחת סופר גיבור קיים ולהשיק אותו מחדש עם עוד סרט, בובה או משחק. לאחד יש בסיס מעריצים קיים שמחכה לכל דבר חדש סביבו, ואילו לסופר גיבור מקורי אין בסיס כלל, מה שידרוש השקעה רבה שעלולה לרדת לטמיון. זה נכון לסופר גיבור זה או אחר, כמו שזה נכון לאבבה, טופאק או מייקל ג'קסון...".
"ניתן לומר כי אנו הדור שנידון לראות את התממשותו חזונו של זאן בודריאר בספרו האלמותי סימולציה וסימולרקה, שם טען כי אנחנו חיים בעולם של שכפולים תרבותיים שמקורם לאט לאט אובד לו", ממשיך שפירא. "לכן עלינו להבין כי לא מדובר בגימיק חולף כי אם בתופעה שרק תגבר ותגבר, כאשר מאחורי הקלעים כבר יש מרוץ חימוש על קניית זכויות של אומנים ויצירות עבר שיזמים מזהים פוטנציאל כלכלי בהחייאתם בעתיד בצורות שונות. אם בעבר ערכו של אומן מת היה טמון בזכויות על קניינו התרבותי שיצר בחייו (דמותו ושיריו), הרי שעכשיו, בזכות הטכנולוגיה החדשה זכות זו הופכת להיות בעלת ערך רב יותר כיוון שניתן 'לנצל' את דמותו הרבה יותר, מהופעות בפרסומות דרך הופעות חיות ועוד ועוד...".
"יש להניח שאנו עתידים לראות צוואות מסוג חדש של אותם אומנים שיכילו בתוכן דרישה לשמירה על המורשת שלהם על בסיס של קווים של עשה ואל תעשה של דמותם הווירטואלית העתידית. בכך, כאשר נמשיך לראות את השכפולים של אותן דמויות מקור בצורות וירטאליות, רוחן תישמר על ידי האומן דרך אותן צוואות", מסכם שפירא. "עם זאת, אי אפשר שלא לתהות על הסכנות לתרבות המחר של כולנו מהאצה של תופעה זאת, מצד אחד תמיד נתהה האם האומן אכן היה מאשר את מה שהוא שאנו נראה אותו עושה בעתיד (שיר, פרסומת, סרט או כל דבר אחר) ולא פחות חשוב מכך, אנו עלולים למצוא שאין לנו חלופות לאותם אומני עבר פתאום, שכן לא בטוח כמה מקום יהיה למקוריות תרבותית בעולם זה אליו אנו נכנסים, כאשר אומני עבר לעולם לא עוזבים אותו. אז האם נידונו לחיות בעולם שמשכפל לעד את התרבות עד כה, עוד סרט של סופרמן, עוד הופעה של מייקל ג'קסון...או שמה יוצרים בעתיד עדיין יצליחו לפרוץ למרות זאת. ימים יגידו, אולם זה בטוח יהיה קשה מאוד".
"השאלה העיקרית בדיון היא לדעתי שאלת ההסכמה", טוענת ד"ר הילה לוינשטיין. "עד ההתפתחויות הטכנולוגיות האחרונות בתחומי ה-AI היה ברור שהמוות הוא סופי ואיתו גם היצירות שמקושרות לאמן המת. אבל בינה מלאכותית - בין אם בהיבטים התוכניים (כתיבה של טקסט לפי סגנון מסוים) ובין אם בהיבטים הוויזואליים (דיפ פייק שמאפשר להלביש תנועה על פנים של אדם שמת או פעולות דומות עם דגימות קול) - למעשה מעניקה לאמנים ''חיי'' נצח. השאלות המוסריות שהעלית דורשות חשיבה ובעיקר אסדרה. מאוד יכול להיות שבעתיד הלא רחוק נצטרך לחתום על מסמכים שיפרטו מה ניתן לעשות בעיזבון דיגיטלי. כמו שאנשים חותמים על הסכמה לתרומת איברים לאחר מותם, כך הם יוכלו לאשר או לאסור שימוש בדמותם. מחקר שאני עורכת בימים אלו יחד עם ד''ר נילי שטיינפלד וד''ר חננאל רוזנברג מצביע בדיוק על כך. בקבוצות מיקוד שערכנו עם אנשים שצפו בקמפיין 'הקשיבי בקולי'' ש'החיה' נשים שנרצחו על ידי בני זוגן באמצעות שימוש בדיפ פייק, השאלה העיקרית שעלתה בדיון היתה שאלת ההסכמה. רוב האנשים הביעו זעזוע מה'החייאה' של מתים באמצעות AI אבל אמרו שאם תהיה הסכמה מפורשת לשימוש כזה - זה מכשיר אותו. ספציפית מאחר והמקרה שבדקנו הוא קמפיין חברתי ולא למשל הופעה של זמר, תמה נוספת שעלתה היא ש'המטרה מקדשת את האמצעים'. לא בטוח שהציבור טולרנטי כרגע ל'החייאת' מתים לשימושים מסחריים, אבל כאמור סביר להניח שככל שהשימוש בטכנולוגיה יוסדר משפטית, ככה גם טווח הקבלה בציבור יגדל".
"בספרו החדש יחסית, דייויד צ'למרס, אחד הפילוסופים החשובים בתקופה הנוכחית, מתייחס לשאלות הבסיסיות של הפילוסופיה בראייה של השערת הסימולציה", אומר ד"ר דורון פרידמן, המעבדה למציאות מתקדמת, אוניברסיטת רייכמן. "אחת המסקנות המרכזיות שלו היא שמציאות מדומה (ובמובן זה אפשר להכליל גם לאומנים וירטואליים משוחזרים) היא מציאות לכל דבר, והחוויות הוירטואליות שלנו יכולות להיות משמעותיות כמו חוויות 'אמיתיות'. בפרט אם החוויה היא בחברת אנשים אמיתיים. כלומר, מבחינה פילוסופית אם חברים חווים הופעה אמיתית או וירטואלית אין חשיבות רבה להבדל".
"לכל עניין האמנים מתים והופעות הולוגרמה - לא רואה הבדל משמעותי בין זה לבין הופעות מחווה וקאברים", מוסיף דן פולק, מנהל המעבדה למציאות מתקדמת, אוניברסיטת רייכמן. "הרי קיים סיכוי נמוך שלא תהיה להקה חיה במקרה הזה (מי ירצה לשלם על כרטיס לשמוע מישהו שלוחץ פליי?), וכל השאר זה מופע פירוטכניקה מאוד מרשים אבל בסופו של דבר זה לא באמת הדבר האמיתי. כמובן שהעסק הוא שונה לחלוטין ברגע שמדובר על אמן מת שעושים שחזור שלו כדי שישיר משהו שהוא לא כתב/יצר".
"לגבי השאלה על שימור הזיכרון או שימוש ציני, אני מניח שזה בעיניי המתבונן", מוסיף מורס. "זמרים ויוצרים רוצים, להערכתי, להשאיר אחריהם מורשת אומנותית מסוימת. ולפעמים הם גם רוצים לא 'לזהם' את המורשת שלהם ביצירות שהציבור טרם נחשף אליהן (קפקא ביקש להשמיד יצירות שלו אחרי מותו כי סבר שהן לא מספיק טובות. המנהל האישי לו לא כיבד את רצונו והיצירות פורסמו, ולתחושתי יש קונצנזוס שאלה יצירות מופת שטוב שלא הושמדו). וגם היום אנחנו יודעים שיש כאלו שרואים באומנים מכונות להדפסת כסף. כך שניתן לשער שיש מי שיעשו שימוש ציני בטכנולוגיות החדשות, לצד כאלו שכוונותיהן יותר טהורות. אבל האפשרויות האלו כאן והן ישתכללו, וסביר שהנושא יוסדר על ידי התעשייה בצורה כזאת או אחרת".
עתיד העתידנות
נראה כי הדוגמאות הראשונות שראינו בתקופה האחרונה הן רק קצה הקרחון בהקשר של בינה מלאוכתית ואומנות. נשאלת השלה לאן אנחנו מתקדמים בהקשר הזה והאם יום אחר לא יהיה ערך בללכת להופעות חיות, כי נוכל לראות ולשמוע אמן מת בהולוגרמה כאילו אנחנו על הרחבה בוודסטוק?
למה להסתפק בהולוגרמה? לא ירחק היום, להערכתי, ותוכל לבקש מהזמר.ת להופיע בסלון של הבית שלך. תחבוש קסדת VR או שהטלוויזיות יהיו מסוגלות להקרין הולוגרמות (תיזכר במסכים מהסרט "דו"ח מיוחד"), ואולי יהיו גם כפפות שמדמות מגע, ואפשר יהיה להוריד הופעה למחשב או לטלוויזיה החכמה ולשיר ביחד עם הזמרים.ות. או לדמות שאנחנו בקונצרט או כל דבר של מציאות וירטואלית או רבודה אחרת.
"לקרא היום את כתבי אריסטו או קונפוציוס, לנגן את היצירות של מוצרט, להציג את שייקספיר, לנגן וריאציה על יצירה של באך או להקרין וידאו של הביטלס, נתפס כיום כדרך מקובלת ובוודאי מוסרית לשמר ולטפח את נכסי התרבות של אלו שאינם עוד איתנו", מוסיפה רונית אליוסף, דוקטורנטית במעבדה למציאות מתקדמת, אוניברסיטת רייכמן. כל הנל שימרו את יצירותיהם באמצעים הטכנולוגיים שעמדו לרשותם, בעיקר כתיבה, בהמשך דפוס ואף הקלטה. אין סיבה שעם התקדמות הטכנולוגיה לא נמשיך לטפח כנסי תרבות של אמנים שאינם קיימים באמצעים החדשים שעומדים לרשותנו. כנראה שבעוד 10 שנים שאלה זו לא תישאל שכן זו תהיה הנורמה החדשה".