100 מיליארד דולר ומקלטים סודיים: האנשים שמאחורי ה-AI כבר מחפשים מחסה ליום שאחרי

מהאזהרות של דריו אמודיי ועד השקעות במקלטים מבודדים: תחקיר ה"וול סטריט ג'ורנל" חושף כיצד קהילה קטנה של חוקרי AI הפכה ללב תעשיית הבינה המלאכותית - ועדיין מתכוננת לאפשרות שהטכנולוגיה תצא משליטה

אלי לאון צילום: פרטי
עקבו אחרינו
ליאור נוביק עורך מדור טכנולוגיה מראיין את גיא טמיר מומחה טכנולוגי לבינה מלאכותית מאינטל | צילום: מעריב אונליין

אותם "נביאי זעם" טוו לא רק תרחישי אימה אלא גם ניווטו בפועל את פיתוח הבינה המלאכותית עצמה. הם היו בין העובדים הראשונים ב־OpenAI ובאנתרופיק, חברות שהוקמו על בסיס העיקרון של מניעת סכנות טכנולוגיות, ושואבות השראה מתנועת "האלטרואיזם האפקטיבי". העובדים באנתרופיק, שרבים מהם חולקים ערוץ סלאק פרטי העוסק בתרחישי יום הדין, אף אימצו מוטו אותו הם מדביקים על מחשביהם הניידים: "דברים לעולם לא יחזרו להיות רגועים".

דריו אמודיי, מנכ''ל אנתרופיק
דריו אמודיי, מנכ''ל אנתרופיק | צילום: נוצר באמצעות AI,REUTERS/Bhawika Chhabra
אילון מאסק
אילון מאסק | צילום: רויטרס

בראשית שנת 2022 הוטסו חוקרים ממעבדות שונות לריטריט יוקרתי באי אלאותרה שבבהאמה, רצועת יבשה המשתרעת על פני כ־177 ק"מ. בין יוגה בשקיעה וצלילת צוקים, הם שוחחו על סכנות הטכנולוגיה וארגנו ארוחות על טהרת התחליפים הטבעוניים. באותה שנה, במסיבה בכנס של התנועה בסן פרנסיסקו, אף הוגש קוקטייל בשם "מוות בכבוד" המהווה התייחסות למאמר של יודקובסקי שטען כי סיכויי האנושות לשרוד קלושים.

אנתרופיק
אנתרופיק | צילום: רויטרס

התאוצה בפיתוח מודלים מסחריים מעוררת חרדה מחודשת בקרב המהנדסים. בכירים בצוותי האבטחה מתפטרים בזה אחר זה בטענה כי החברות זונחות את הבטיחות. מתקפת סייבר שנחשפה לאחרונה על חברת Hugging Face, ודו"ח של ארגון METR שהראה כיצד כ־1,200 סוכני בינה מלאכותית רקמו מזימות בפורום סודי, סיפקו רוח גבית לאזהרות. אירועים אלו אף הובילו לתזכיר שהופץ לאחרונה בבית הלבן המאשים את תנועת האלטרואיזם בכך ש"בנתה את צינור נבואות הזעם של הבינה המלאכותית".

כעת, אנתרופיק מתכננת הנפקה ציבורית שעשויה להציף אותה בעד 100 מיליארד דולר. למשקיעים, החברה מנסה לשדר אופטימיות ושליטה. אולם מאחורי הקלעים, המציאות נראית אחרת: בשבועות האחרונים סיפרו כמה מעובדיה הוותיקים לקולגות כי הם בוחנים רכישת שטחי אדמה באזורים מבודדים בארצות הברית, כדי להקים מקלטים אליהם יוכלו להימלט במידה והבינה המלאכותית אכן תצא מכלל שליטה.

תגיות:
אילון מאסק
/
בינה מלאכותית
/
AI
/
אנתרופיק
/
FTX
פיקוד העורף לוגוהתרעות פיקוד העורף