הגיע הזמן להדק את החבל סביב הרשתות החברתיות – והבינה המלאכותית | דן פרי

זה מצוין שהחבל הולך ומתהדק סביב הרשתות החברתיות. ממשלות ובתי משפט מתחילים להטיל על הפלטפורמות אחריות לא רק למה שהמשתמשים מפרסמים, אלא גם לאלגוריתמים ולמנגנונים הממכרים שהן עצמן בונות באופן מובהק כדי לנצל את החולשה האנושית. צריך להדק אותו עוד יותר – במיוחד באירופה, שבה המסגרת הרגולטורית כבר קיימת – ולהחיל את העיקרון המתגבש גם על הבינה המלאכותית: ככל שגדל כוחו של אלגוריתם לעצב את ההתנהגות האנושית, כך גדלה אחריותה של החברה ששולטת בו.

ההסדר יוצא הדופן של מטא השבוע, בהיקף של 18 מיליארד דולר, עם כמעט כל מדינות ארצות הברית, הוא הסימן המובהק ביותר עד כה לשינוי – והוא תוצאה של לחץ משפטי. פסק דין של חבר מושבעים בסך 375 מיליון דולר נגד מטא בשנה שעברה תפח מאז לפסק דין וצו לתיקון בהיקף של 942 מיליון דולר. בלוס אנג'לס קבע חבר מושבעים כי מטא וגוגל נושאות באחריות בתיק שהתמקד בתכנון ובהפעלה של אינסטגרם ויוטיוב. אלפי תביעות נזיקין אישיות הקשורות להתמכרות לרשתות חברתיות עדיין נמצאות בצנרת.

החברה הסכימה לא רק לשלם, אלא גם לשנות את האופן שבו אינסטגרם ופייסבוק פועלות עבור ילדים, לרבות הגבלות על השימוש ועל התראות, אימות גיל מחמיר יותר ושליטה הורית רחבה יותר. אם השינויים אכן ייושמו, מדובר במהלך עצום.

ומטא אינה היחידה. הסדר של 400 מיליון דולר עם טיקטוק, הפסדים של מטא וגוגל בבתי המשפט, הגבלות חדשות שנועדו להגן על ילדים ופעילות ממשלתית הולכת וגוברת – כל אלה מגיעים בזה אחר זה ובקצב מהיר.

במשך כמעט שני עשורים עברה החברה האנושית מול  הרשתות החברתיות שתי תקופות מתירניות להפליא. תחילה שלטה האוטופיה: הן יחברו את האנושות, יהפכו את המידע לדמוקרטי ויעניקו לאנשים רגילים קול. ככל שהמחיר נעשה ברור יותר, האופטימיות פינתה את מקומה לתחושת חוסר ברירה. הפלטפורמות נראו גדולות, פופולריות ומשולבות מדי בחיים המודרניים מכדי שאפשר יהיה באמת לערער עליהן. ממשלות ביצעו תיקונים בשוליים, הורים נאבקו, ודמוקרטיות קיבלו סביבות מידע כאוטיות יותר ויותר כמחיר הקדמה הטכנולוגית.

הנזק מכל זה ברור. שימוש כבד ברשתות חברתיות נקשר לחרדה, דיכאון ופגיעה עצמית בקרב מתבגרים, בעוד שהמחקרים של מטא עצמה מצאו כי אינסטגרם החמירה בעיות של דימוי גוף בקרב נערות. הפלטפורמות גם אפשרו הונאות, תרמיות וניצול פלילי בקנה מידה עצום. הנזק הגיאופוליטי חמור באותה מידה. קמפיינים של דיסאינפורמציה, רשתות בוטים והגברה אלגוריתמית עיוותו בחירות, שחיקו אמון והחלישו נורמות דמוקרטיות.

ובכל זאת, העולם התאים את עצמו לרשתות החברתיות. עכשיו החברה מתחילה לדרוש שהרשתות החברתיות יתאימו את עצמן לעולם.

התיק נגד מטא החל כאשר 29 מדינות האשימו את החברה בכך שהיא מכוונת במכוון למשתמשים צעירים, מתכננת את פייסבוק ואינסטגרם כדי למקסם מעורבות ומטעה את הציבור בנוגע לסיכונים. מטא הכחישה את הטענות והצביעה על מאמציה להגן על משתמשים צעירים; כדאי לזכור שמדובר בחברה שאין לה אפילו מחלקת שירות לקוחות שמתפקדת כראוי. זה מטא-בלוף.

וזה נחשף: במקום להמתין לפסק דין, מטא הגיעה להסדר. משמעותי יותר מהכסף הוא מה שהיא הסכימה לשנות. העיקרון המתגבש הוא שהארכיטקטורה של הרשתות החברתיות – המנגנון שנועד ללכוד את תשומת הלב ולהשאיר את המשתמשים גוללים – היא כשלעצמה יעד לגיטימי להתערבות ציבורית.

ההסדר מגיע בעקבות הפסדים נוספים בבתי המשפט. מוקדם יותר החודש, בניו מקסיקו, מטא ספגה פסק דין של חבר מושבעים בסך 375 מיליון דולר, שמאז תפח לפסק דין וצו לתיקון בהיקף של 942 מיליון דולר. בלוס אנג'לס קבע חבר מושבעים כי מטא וגוגל נושאות באחריות בתיק שהתמקד בתכנון ובהתנהלות של אינסטגרם ויוטיוב. ביום שישי הודיע משרד המשפטים של ארה"ב על הסדר של 400 מיליון דולר עם טיקטוק ובייטדאנס, שיישב טענות הנוגעות לפרטיות ילדים ולעמידה בחוק להגנת פרטיות ילדים ברשת.

ניו זילנד הציגה חקיקה שמטרתה למנוע מילדים מתחת לגיל 16 להשתמש ברשתות חברתיות, כאשר חברות עלולות לעמוד בפני קנסות של עד עשרה אחוזים מהכנסותיהן העולמיות אם לא ינקטו צעדים סבירים לאימות גיל המשתמשים. ההצעה קיבלה תנופה משמעותית ביום שלישי, כאשר מפלגת הלייבור שבאופוזיציה הודיעה על תמיכתה. ובבריטניה – שצועדת באותו כיוון - דרשה הממשלה מטיקטוק ומפלטפורמות אחרות להסיר סרטונים המפארים נהיגה מסוכנת, לאחר שתאונה גבתה את חייהם של שבעה בני אדם, בהם שני שוטרים. הפרטים משתנים, אבל הכיוון ברור: ממשלות ובתי משפט רואים יותר ויותר בארכיטקטורה של הרשתות החברתיות נושא לגיטימי להתערבות ציבורית.

שלוש הנחות יסוד שעליהן נשען הסדר של עידן הרשתות החברתיות עומדות כעת למבחן.

הראשונה היא חסינות הפלטפורמות: הרעיון שחברות הרשתות החברתיות בסך הכול מספקות זירה לדיבור שנוצר בידי אחרים, ולכן נושאות באחריות מוגבלת לתוצאות. בארצות הברית, סעיף 230 העניק להן הגנה חזקה מפני אחריות הנובעת מתוכן של צדדים שלישיים. אבל ההתדיינות המשפטית החדשה מתמקדת יותר ויותר במה שהחברות עצמן בונות ועושות. מערכות המלצה, הפעלה אוטומטית, התראות וגלילה אינסופית הן מוצרים של החברות ובחירות של החברות. ייתכן שפלטפורמה לא מילאה שום תפקיד ביצירת תיאוריית קונספירציה או אתגר מסוכן, ובכל זאת מילאה תפקיד עצום בקביעה אם 200 בני אדם ייחשפו אליהם – או 20 מיליון. ההפצה היא כשלעצמה סוג של כוח.

ומכאן להנחה השנייה שעומדת כעת למבחן: ריבונות אלגוריתמית – התפיסה שלפיה אלגוריתם הוא טכנולוגיה קניינית ולכן, ביסודו של דבר, עניינה הפרטי של החברה. אלא שהמערכות הללו מנהלות חלק עצום מסביבת המידע המודרנית. הן מדרגות, ממליצות ומגבירות תכנים, ולומדות ללא הרף מה לוכד את תשומת לבו של כל משתמש. החברות בוחרות מה המערכות הללו אמורות למקסם, ומעורבות המשתמשים נותרה גורם מרכזי משום שתשומת לב מייצרת הכנסות מפרסום. לתוכן שמעורר פחד, זעם, שבטיות או הלם יש יתרונות ברורים. כשהוא מצליח, המנגנון מספק עוד ממנו. האלגוריתם הפך לעורך בעל עוצמה יוצאת דופן, שפועל ללא הפסקה ובאופן אישי על פני מיליארדי מסכים. החלטותיו הן תוצאה של הנדסה ותמריצים מסחריים, לא של חוק טבע.

ההנחה השלישית היא המיתולוגיה של שוק הרעיונות הניטרלי. ההגנה המוכרת גורסת שהמשתמשים בוחרים במה שמעניין אותם, ושתוכן פופולרי עולה למעלה מפני שאנשים רוצים אותו. אבל זהו שוק מהונדס, שבו ההפצה משפיעה על הביקוש. חזרה יוצרת היכרות, בולטות יוצרת חשיבות, המלצה מובילה לגילוי וויראליות מספקת הוכחה חברתית. מכאן נובעת ההבחנה בין הזכות לדבר לבין זכות כביכול להגברה. אדם רשאי להביע רעיון תמהוני, מלא שנאה או מסוכן. החלטה אוטומטית של תאגיד להזניק אותו למיליוני פידים היא הפעלה מסוג אחר לגמרי של כוח. המפיץ מסייע ליצור את התיאבון שאותו הוא מתאר לאחר מכן כביקוש אורגני. צביעות מסוכנת.

ילדים הם המקום שבו הסובלנות הציבורית נשברת במהירות הגדולה ביותר, ולכן רוב הפעילות מתמקדת בהם. אבל המשמעות רחבה בהרבה. אותה ארכיטקטורה שמשאירה נער או נערה גוללים במסך היא גם זו שמנהלת את הפצתן של תעמולה פוליטית, תיאוריות קונספירציה, הונאות, חומר קיצוני ודיסאינפורמציה.

אירופה כבר אימצה תפיסה רחבה יותר באמצעות חוק השירותים הדיגיטליים, המטיל דרישות אחריות מוגברות על הפלטפורמות הגדולות ביותר ומחייב אותן להעריך סיכונים מערכתיים הקשורים למערכות המלצה ולתהליכים אלגוריתמיים.

אירופה צריכה עכשיו להכפיל את המאמץ. התיקים האמריקאיים גורמים לניסוי האירופי להיראות פחות כמו רגולציית יתר ויותר כמו הכרה מוקדמת במקום שבו נמצאת הבעיה. ההגנות שמטא הסכימה להעניק לילדים אמריקאים צריכות להיות נקודת פתיחה, לא קו סיום. הרגולטורים צריכים לדרוש הוכחות לכך שמערכות ההמלצה ומנגנוני המעורבות אכן מפחיתים נזק, ולא רק מייצרים הודעות מרגיעות לעיתונות.

והעיקרון צריך לחול מעבר לילדים – ומעבר לרשתות החברתיות.

הבינה המלאכותית הופכת את הלקח הזה לדחוף. אלגוריתמים של רשתות חברתיות קובעים מה מיליארדי אנשים רואים. מערכות בינה מלאכותית ייצרו יותר ויותר את המידע עצמו, יתאימו אותו אישית, ישוחחו עם משתמשים, ישכנעו אותם וישפיעו ישירות על החלטותיהם. במובנים מסוימים זו אינה בעיה חדשה, אלא גרסה חזקה לאין שיעור של בעיה שלקח לנו שני עשורים להתחיל להבין.

מה זה אומר לגבי בינה מלאכותית הוא, יש להודות, מורכב יותר. ההתנגדות הברורה לפיקוח משמעותי היא גיאופוליטית: אם ארצות הברית ואירופה יגבילו את החברות שלהן בעוד שסין לא תעשה זאת, הן עלולות להפסיד במרוץ הטכנולוגי החשוב ביותר של המאה. הסכנה הזאת אמיתית, אבל היא אינה יכולה להפוך לטיעון בעד היעדר מוחלט של כללים.

ממשלות יכולות להתחיל בתחומים שבהם הסיכונים ברורים ביותר – לדרוש שקיפות בנוגע לאופן שבו מערכות עוצמתיות מאומנות ונבחנות, הערכות בטיחות עצמאיות לפני פריסת המודלים החזקים ביותר, אמצעי הגנה לילדים ואחריות כאשר חברות משחררות ביודעין מערכות המסוגלות לגרום נזק חמור. בסופו של דבר, עם זאת, חלק מהסיכונים יחייבו שיתוף פעולה עם סין, ולא רק תחרות נגדה. וושינגטון ובייג'ינג הצליחו להגיע להבנות בתחום בקרת הנשק עם יריבים כאשר פגיעות הדדית הפכה אותן להכרחיות; בינה מלאכותית מתקדמת עשויה בסופו של דבר לדרוש גרסה משלה לאותו היגיון.

לכן הלקח המרכזי של עידן הרשתות החברתיות צריך להנחות את עידן הבינה המלאכותית כבר מראשיתו: תחכום טכנולוגי הוא מקור לאחריות. ככל שגדלה יכולתה של מערכת להשפיע על ההתנהגות האנושית ועל סביבת המידע, כך גדלה חובתם של מי שמתכננים אותה ומפיקים ממנה רווח.

במשך 20 שנה התאמנו את עצמנו למהפכה הטכנולוגית הקודמת. עם המהפכה החדשה אנחנו חייבים לפעול מהר יותר.