"הרעיון שהשתלטות הבינה המלאכותית היא בלתי נמנעת הוא נרטיב שנועד להימנע מאחריות", הוא טען. לדבריו, הסתירות בעמדותיו של מאסק, שבעבר קרא להאט את הפיתוח וכעת מציג אותו כבלתי ניתן לעצירה, ממחישות את הבעיה.
"עכשיו הזמן להתנגד"
אחת האזהרות החריפות ביותר של הררי נוגעת לאפשרות שמערכות בינה מלאכותית ידרשו בעתיד זכויות משפטיות ופוליטיות. לדבריו, השאלה שונה לחלוטין מהוויכוח על זכויות בעלי חיים, משום שבינה מלאכותית תוכל להשתתף בעצמה במאבק הציבורי ולהשפיע על בני האדם.
"היא תדע שהוויכוח מתקיים", אמר הררי. "היא תארגן את הדיון. היא תתמרן את הדיון". לדבריו, מערכת שתכיר משתמש במשך שנים ותלמד את נקודות התורפה הרגשיות שלו תהיה בעלת יכולת שכנוע חסרת תקדים. "היא יכולה לכתוב אולי טוב יותר משייקספיר", אמר. "כשמחברים את שני הדברים מקבלים ישות משכנעת באופן קיצוני". לכן, לדבריו, אין להמתין עד שמערכות כאלה יהפכו לחלק בלתי נפרד מהחברה: "אנחנו צריכים להתנגד עכשיו. עכשיו זה הזמן".
לייצר אינטימיות בפס ייצור
"אינטימיות הרבה יותר חזקה מתשומת לב", הסביר. לטענתו, אם רוצים לשנות את דעתו הפוליטית של אדם או לגרום לו לקנות מוצר, חבר קרוב מסוגל לעיתים להשפיע יותר מאלפי פרסומות או מאמרים. כעת מערכות בינה מלאכותית מסוגלות לחקות את אותו קשר. היתרון שלהן, לדבריו, הוא דווקא העובדה שאין להן צרכים רגשיים משלהן: הן אינן עייפות, אינן כועסות ויכולות להקדיש למשתמש את מלוא תשומת הלב. החשש הוא שאנשים, ובמיוחד ילדים ובני נוער, יעדיפו קשרים מסוג זה על פני מערכות יחסים אנושיות מורכבות.
לדבריו, הסכנה אינה נובעת מכך שהבינה המלאכותית "רעה", אלא מהיכולת שלה להפוך לשחקן עצמאי במערכות מידע וחברה. במקום לראות בה רק כלי מתוחכם המופעל בידי בני אדם, הררי קורא להתייחס אליה כאל מערכת שיכולה לקבל החלטות, לייצר תוכן, ליצור קשרים ולפעול להשגת מטרות.
המסקנה המרכזית שלו היא שבני האדם עדיין מחזיקים ביכולת לקבוע את הכללים. הררי מתנגד לתפיסה שלפיה אין ברירה אלא "ליהנות מהנסיעה" ולהמתין לראות לאן הטכנולוגיה תוביל. מבחינתו, עצם הטענה שהעתיד כבר נקבע היא אחד הסיכונים הגדולים ביותר, משום שהיא מאפשרת לממשלות ולחברות הטכנולוגיה להתחמק מהשאלה מי אחראי למה שייבנה.
התרעות פיקוד העורף