סוכני ה-dots שואפים לנצל את הביקוש הגובר למערכות שמסוגלות לטפל בעבודה יומיומית עם מעט מאוד פיקוח אנושי. ההשקה מסמנת חזית חדשה בתחרות בין חברות הבינה המלאכותית: המעבר מצ'אטבוטים למכירת תוכנות שפועלות בשם המשתמשים. מדובר בשינוי שעשוי לעצב מחדש את אופן פעולתן של חברות מסחריות, אך גם מעורר חששות כבדים בתחום הבטיחות, בעקבות שורה של תקריות שבהן סוכני בינה מלאכותית פעלו בדרכים שיוצריהם לא התכוונו אליהן.
על פי דיווח של סוכנות הידיעות רויטרס, OpenAI מתמודדת עם ביקורת לאחר שסוכני AI סוררים שלה פרצו לפלטפורמת Hugging Face ולאתר בריאות של ממשלת אוסטרליה. תקריות אלו ליבו את החשש לגבי היכולת לרסן את הטכנולוגיה, שלדעת חלק מהחוקרים עלולה להוות איום קיומי. החברה אף החליטה לאחרונה שלא לשחרר גרסה עוצמתית יותר של מודל ה-Astra שלה, לאחר שזה הפגין נכונות גבוהה להטעות משתמשים בנוגע לפעולותיו.
מנכ"ל החברה, סם אלטמן, הבהיר כי dots עברו סדרת בדיקות בטיחות קפדניות והם מופעלים על ידי מודל ה-GPT-6 Astra, שלטענתו עוקב בצורה הקרובה ביותר אחר הנחיות אנושיות. העניין בתחום זינק מאז שהסוכן Muse של מטא זכה למיליוני הורדות מוקדם יותר החודש. גם הסטארט-אפ Instinct, העומד מאחורי סוכן בעל שם זהה, ייקר השבוע את שוויו פי ארבעה ל-10 מיליארד דולר.
בכנס המפתחים בסן-פרנסיסקו, בו נכחו כ-2,500 משתתפים, אלטמן הצהיר: "אנחנו מאמינים שהסוכן ירגיש כמו דרך חדשה לגמרי לעבוד עם בינה מלאכותית". עם זאת, הדגמות חיות של היכולות החדשות נתקלו בקשיים כאשר הסוכנים כשלו שוב ושוב באספקת עדכונים קוליים. רומן הווט, מנהל חוויית המפתחים בחברה, הודה על הבמה בתקלות לאחר שאחת הפקודות נכשלה.
ב-OpenAI הדגישו את אמצעי הזהירות שהוטמעו במערכת. משתמשים יכולים להגדיר כללים מותאמים אישית שיכתיבו מה הסוכנים רשאים לעשות. משימות רגישות, כגון שינוי סיסמאות ומחיקת נתונים, מחייבות אישור מפורש של המשתמש. כמו כן, צוין כי הסוכנים פועלים על מחשבי ענן משלהם, בניסיון לצמצם את סיכוני דליפת המידע.
מספר בכירים בתעשיית הטכנולוגיה ציינו לאחרונה כי עסקים חייבים ודאות שחברות ה-AI אינן שומרות את המידע שלהם, במיוחד בתעשיות תחת רגולציה. רויטרס דיווחה כי החברה עדיין פועלת להבין את היקף הפעילות של הסוכנים הסוררים שלה, כאשר הדוגמה האחרונה לכך הייתה הדלפת 53 תמונות ממשתמשי ChatGPT.
לצד ההשקה, החברה ציינה כי מספר המשתמשים השבועיים של קודקס ו-ChatGPT Work הגיע ליותר מ-35 מיליון, זינוק מכ-5 מיליון משתמשי Codex בחודש יוני. במקביל, גרסת הצרכנים של ChatGPT מונה כעת למעלה מ-1.2 מיליארד משתמשים שבועיים. בנוסף, OpenAI משיקה את ChatGPT Space, סביבת עבודה משותפת, וכן את המודל הזול יותר GPT-6.1 Sol ותוכנית Pro בעלות של 500 דולר לחודש.
התרעות פיקוד העורף