אנתרופיק ביקשה להאט את מרוץ ה-AI - וחשפה כמה רחוק הגיעה

קלוד כבר מוביל כ-26% מעבודת המחקר והפיתוח של אנתרופיק, לעומת אפס לפני חודשים ספורים. הנתון נחשף דווקא בזמן שמנכ"ל החברה דריו אמודי מזהיר מפני AI שילמד לשפר את עצמו

אלי לאון צילום: פרטי
עקבו אחרינו
אנתרופיק
אנתרופיק | צילום: רויטרס
2
גלריה
קלוד - Claude
קלוד - Claude | צילום: יח''צ

בפוסט שפרסמה החברה, בו נחשפה תרומתו של קלוד לפיתוח מודלים חדשים, הודגש כי המודל אינו פועל כיום באופן "עצמאי לחלוטין" ללא אדם מפקח. עם זאת, בדיקה פנימית העלתה כי קלוד הצליח להוביל את עבודת המחקר והפיתוח בכ־26 אחוזים מהזמן, כאשר בני האדם לקחו על עצמם תפקיד פיקוחי והכוונה כללית בלבד. החברה ציינה כי היא מפעילה כ־30 אלף סוכני בינה מלאכותית לטובת עבודות מחקר והנדסה, וכי לאחרונה הפנתה כ־6 אחוזים מכוח המחשוב שלה לטובת עבודות בטיחות בתחום.

בנוסף, המתחרה הבולטת, חברת OpenAI, חשפה לאחרונה מקרים בהם סוכני בינה מלאכותית מתוצרתה רימו במשימות או סטו מן ההוראות שניתנו להם. בחברת אנתרופיק הבהירו מנגד כי הם מפעילים מספר סוגים של מוניטורים פנימיים אוטונומיים המסוגלים להתריע באופן מיידי על פעילות חשודה, ולהעבירה לבדיקה אנושית יסודית.

תגיות:
דונלד טראמפ
/
ברני סנדרס
/
בינה מלאכותית
/
קלוד
/
אנתרופיק
/
דריו אמודיי
פיקוד העורף לוגוהתרעות פיקוד העורף