המסמך שופך אור על סכנות מצד מודלים ממוחשבים, אשר לדברי החברה עלולים להפגין "התנהגויות של שימור עצמי", כולל ניסיונות "להתנגד לכיבוי", "להסתיר או לעשות מניפולציה על מידע", ואף התנהגויות "המדמות סחיטה".
סכנת הכחדה לצד הבטחה כלכלית
בעוד שחברות ציבוריות נוהגות באופן שגרתי לפרט בפני משקיעים סיכונים הקשורים למוצריהן, נדיר למצוא חברות המזהירות כי פרי פיתוחן עלול להוביל להכחדת האנושות. אנתרופיק מדגישה את הפוטנציאל המהפכני של הבינה המלאכותית, אותו היא משווה למהפכה התעשייתית ולחשמל, אך באותה נשימה מתריעה מפני הנזק הבלתי הפיך שעלול להיגרם משימוש לא אחראי.
החברה, שממתגת את עצמה כמעבדת בינה מלאכותית ששמה את הבטיחות בראש סדר העדיפויות, הקדישה כ-80 עמודים מתוך 261 עמודי התשקיף העיקריים לפירוט גורמי הסיכון. לשם השוואה, חברת SpaceX (המחזיקה במיזם xAI), הקדישה רק 38 מתוך 277 עמודים לאזהרות דומות בהנפקה האחרונה שלה.
הפסדי עתק ושאיפות בטריליונים
למרות החזון האפוקליפטי, המספרים מאחורי ההנפקה הצפויה מרקיעי שחקים, והערכת השווי לקראתה עשויה לחצות את רף שני טריליון הדולרים, כפול מהערכת השווי שעמדה על 965 מיליארד דולר בחודש מאי האחרון.
עם זאת, הדרך לשם רצופה בהוצאות בלתי נתפסות. בשנת 2025 דיווחה אנתרופיק על הפסד נקי של 42 מיליארד דולר (הכולל הוצאה חשבונאית של כ-34 מיליארד דולר הקשורה להמרת מימון למניות), כאשר ההפסד התפעולי העמיק ל-8.06 מיליארד דולר. זאת, על אף זינוק של פי 12 בהכנסות שהגיעו ל-4.6 מיליארד דולר.
על פי רויטרס, ההשקעה בתשתיות היא אדירה. החברה הוציאה אשתקד 7.33 מיליארד דולר על תשתיות ומחשוב, פי שלושה משנת 2024, ומתכננת להוציא סכום חסר תקדים של 518 מיליארד דולר על התחייבויות ענן ותשתיות בשנים הבאות.
בנוסף, החברה חשפה כי כרבע מהכנסותיה אשתקד הגיעו משני לקוחות מרכזיים בלבד, שאינם חתומים על חוזים ארוכי טווח ויכולים לחתוך בהוצאותיהם. נכון לסוף דצמבר, עמדו לרשות החברה עתודות מזומנים והשקעות לטווח קצר בסך 20.28 מיליארד דולר.
מרוץ חימוש ללא בלמים
הפער בין אזהרות הבטיחות לבין המרוץ המסחרי מעולם לא היה ברור יותר. אנתרופיק מודה כי ההחזר על השקעותיה בתחום הבטיחות נותר מעורפל, וכ-6% בלבד מכוח המחשוב שלה הוקצה בשבוע מדגם ביולי לטובת חקר בטיחות.
ההנפקה, שצפויה להתקיים לאחר בחירות אמצע הקדנציה בארצות הברית בנובמבר, תכניס משקיעים מהציבור הרחב לזירה שנשלטה עד כה על ידי קרנות הון סיכון וענקיות טכנולוגיה כמו אמזון וגוגל, השותפות האסטרטגיות של החברה.
מעבר לתחרות העסקית, אנתרופיק גם מוצאת את עצמה במוקד סערות פוליטיות. לאחרונה התעמתה החברה עם הבית הלבן, מה שהוביל להכנסתה הזמנית לרשימה השחורה של הפנטגון, צעד שנבלם לבסוף על ידי שופט פדרלי. מומחים ואנליסטים סבורים כי בענף שבו הערכות השווי מזנקות עם כל גרסה חדשה, אף חברה לא תוכל להרשות לעצמה ללחוץ על הבלמים, גם אם המחיר יהיה פיתוח מודלים אוטונומיים שיתפתחו מעבר לשליטת האדם.
התרעות פיקוד העורף