הביקוש היה גבוה באופן חריג
לפי שלושה גורמים המעורים בפרטים, וכפי שפורסם בפייננשל טיימס, גוגל הודיעה למטא בסביבות חודש מרץ כי לא תוכל לספק לה את מלוא קיבולת ג'מיני שהחברה ביקשה לרכוש. ההחלטה שיבשה ועיכבה חלק מפרויקטי הבינה המלאכותית הפנימיים של מטא.
המגבלות עדיין בתוקף, ולצדן מטא מקדמת מהלך רחב יותר לצמצום עלויות הבינה המלאכותית שלה. בעקבות זאת, לפי כמה גורמים, החברה עודדה עובדים להשתמש בצורה יעילה יותר ב"טוקנים" - יחידות המדידה של שימוש במודלי AI. לפי הפייננשל טיימס, לקוחות נוספים של גוגל הושפעו מהמגבלות, אך במידה פחותה. מטא נפגעה במיוחד משום שהביקוש שלה למודלים של גוגל היה גבוה באופן חריג.
ההחלטה של גוגל להגביל גישה של לקוחה גדולה למודלים שלה מספקת הצצה נדירה ללחצים התשתיתיים שמצטברים בתעשיית הבינה המלאכותית. למרות השקעות של עשרות מיליארדי דולרים בשבבים, מרכזי נתונים וחשמל, גם חברות הטכנולוגיה הגדולות ביותר מתקשות להשיג מספיק כוח מחשוב כדי לעמוד בביקוש הגובר למודלים מתקדמים ולשירותי AI.
כולם מפעילים סוכני AI - המערכת מתקשה להתמודד
הביקוש לכוח מחשוב עבור בינה מלאכותית זינק כאשר חברות החלו להטמיע צ'אטבוטים, עוזרי קוד וסוכני AI ברחבי הארגונים שלהן. העלייה בעומסי ה"אינפרנס" - המשימות הנדרשות להפעלת מודלים לאחר שאומנו - הפכה לאחד האתגרים הגדולים ביותר של התעשייה.
בעקבות הביקוש, בעיקר מצד לקוחות תאגידיים גדולים כמו מטא, גוגל מיהרה להשיג קיבולת נוספת. לפי גורם המעורה בנושא, מוקדם יותר החודש חתמה גוגל על עסקה בהיקף של 920 מיליון דולר בחודש לשכירת כוח מחשוב מחברת ספייסX של אילון מאסק. גוגל ומטא סירבו להגיב.
גם מעבדת הבינה המלאכותית אנתרופיק, שפיתחה את הצ'אטבוט הפופולרי Claude, חתמה בחודש שעבר על עסקה עם ספייסX הדומה לעסקה שיש לה עם גוגל.
צוקרברג מזרים מיליארדים
בניגוד לגוגל, למטא אין עסקי ענן, והיא ממהרת להרחיב את מערך מרכזי הנתונים שלה לצורכי אימון והפעלה של מודלים. במסגרת המהלך התחייבה מטא להשקיע 600 מיליארד דולר בארצות הברית עד 2028. ג'מיני שימש את מטא באופן פנימי כחלק מניסיון לאוטומציה של חלק מתהליכי הבטיחות שלה, בהם איתור הונאות והסרת תוכן מזיק. בנוסף, נעשה בו שימוש בשירות לקוחות, בצ'אטבוטים לסיוע בפרסום, בתהליכי עבודה פנימיים ובכתיבת קוד, לצד מודלים נוספים כמו Claude של אנתרופיק.
מטא בחרה בתחילה להשתמש בג'מיני משום שביצועיו היו טובים יותר מאלה של מודלי הקוד הפתוח שלה, Llama, לפי גורמים המעורים בנושא. לאחרונה החלה מטא לתת עדיפות למודל החדש שלה, Muse Spark, שלפי כמה גורמים נתפס כתחרותי יותר מול ג'מיני ומאפשר לחברה לצמצם את התלות במודלים חיצוניים בחלק מהיישומים.
התרעות פיקוד העורף