אמודיי השיב כי חשוב לדבר בכנות עם הציבור על יכולות המודלים ולא להמעיט בסכנות האפשריות. השיחה התקיימה במסגרת מצומצמת יותר של מנהלים, לצד אנשי הבית הלבן ויועצים, בזמן שהקבוצה ניסחה את עקרונות ההסכמה בחדר רוזוולט.
המחלוקת שמתחת לפני השטח
אמודיי מתח בעבר ביקורת על הבית הלבן ועל מתחריו בטענה שהם ממעיטים בחששות הבטיחותיים. הוא הזהיר בין היתר מפני האפשרות שמודלי AI ישמשו לביצוע מתקפות סייבר ומפני אובדן קיצוני של מקומות עבודה כתוצאה מהטכנולוגיה. עמדותיו הפכו אותו למטרה לביקורת מצד גורמים רבים בוושינגטון ובעמק הסיליקון.
ביום שלישי אמר אמודיי לכתבים כי "אנחנו יכולים לנצח בבטחה" אם התעשייה והממשל יעבדו יחד. טראמפ מצדו שיבח אותו וכינה אותו "נהדר". ימים ספורים קודם לכן, ביום ראשון, השניים אף סעדו יחד בבית הלבן בפגישתם הראשונה פנים אל פנים.
אנתרופיק מנסה לתקן את היחסים
הפגישה מגיעה בזמן שאנתרופיק מנסה לשקם את יחסיה עם הממשל ובמקביל נערכת להנפקה ראשונית לציבור, שבמסגרתה היא מקווה להגיע לשווי של כ-2 טריליון דולר.
החברה עדיין מתמודדת עם השלכותיהם של שני עימותים קשים עם הממשל מוקדם יותר השנה. בין היתר, שניים מהמודלים שלה הושבתו למשך כשבועיים וחצי בשל חששות ביטחוניים, והפנטגון הכניס את החברה לרשימה שחורה בעקבות מחלוקת על האופן שבו ניתן להשתמש בבינה מלאכותית למטרות צבאיות.
העקרונות שעליהם הוסכם השבוע הם תוצאה של חודשים של דיונים בשאלה כיצד למנוע מתקפות סייבר באמצעות AI, לאחר השקת Mythos של אנתרופיק ומודלים דומים מוקדם יותר השנה. הממשל האמריקאי כבר בוחן מודלים רבי עוצמה לפני שהם משוחררים לציבור, אך לדברי בכירים בתעשייה, מקרי חדירה למערכות שבוצעו לאחרונה באמצעות מודלי AI המחישו את הצורך בבדיקות מחמירות יותר כבר במהלך שלבי האימון והפיתוח.
עם זאת, המבנה שנבחן כלל גם רבים מהרעיונות שנכנסו לבסוף למסמך העקרונות השבוע, ובהם בדיקות פנימיות מחמירות יותר במהלך פיתוח המודלים ובחינות חיצוניות שלהם.
צוקרברג נכנס לתמונה
הדיונים המחישו את הלחץ הגובר המופעל על הבית הלבן ועל תעשיית הטכנולוגיה בעקבות החששות הציבוריים מבינה מלאכותית ומהיקף מרכזי הנתונים הנדרשים להפעלתה. צוקרברג מילא תפקיד מרכזי במיוחד בגיבוש העקרונות שעליהם הוסכם השבוע. לפי גורמים המעורים בפרטים, הוא שוחח פעמים רבות עם טראמפ ועם בכירים נוספים בממשל, בהם שר המסחר הווארד לוטניק, שאחראי על יחידה ממשלתית מרכזית הבוחנת מערכות AI.
לצד הואנג, צוקרברג הפך לאחד הקולות הבולטים התומכים בגישה המקלה יחסית של הבית הלבן כלפי הרגולציה על התחום. השניים מתנגדים לקריאות מצד חוקרים באנתרופיק וב-OpenAI להאט במידת הצורך את קצב פיתוח המודלים, בתיאום עם הממשלה.
Meta מצדה התקרבה בשנים האחרונות לבית הלבן, לאחר שטראמפ מתח בעבר ביקורת על החברה בעקבות השעיית חשבונותיו ברשתות החברתיות אחרי אירועי 6 בינואר 2021 בקפיטול. במהלך כהונתו השנייה של טראמפ הגיעה החברה להסדר בתביעה הנוגעת למהלך, צמצמה את מנגנוני בדיקת העובדות שלה, גייסה מנהלים המזוהים עם טראמפ ותרמה ליוזמות המזוהות עם הנשיא.
ביום שלישי נראו צוקרברג וטראמפ מחייכים וצוחקים יחד בזמן שענו לשאלות עיתונאים. "אנחנו רוצים לתת לעם האמריקאי וללקוחות שלנו ביטחון שהטכנולוגיה פועלת בדרך שאליה התכוונו", אמר צוקרברג.
התרעות פיקוד העורף