"הם בונים מפלצת שתצא מכלל שליטה": החוקר שנטש את אימפריית ה-AI מזהיר מהשמדת האנושות

חוקר בכיר שעזב את אנתרופיק עורר סערה ברשת לאחר שחשף את הסיבה לפרישתו: לדבריו, מרוץ ה-AI דוהר לעבר מערכות שעלולות לצאת משליטה ולהוביל לאסון עבור האנושות

אלי לאון צילום: פרטי
עקבו אחרינו
בינה מלאכותית תמונת המחשה
בינה מלאכותית תמונת המחשה | צילום: אינגאימג'
2
גלריה

קוקסון בחר לחשוף את מניעיו בסדרת ציוצים ברשת החברתית, אשר הפכה לוויראלית באופן חסר תקדים וזכתה ל-17 מיליון קריאות בתוך חמש שעות בלבד. בציוציו הבהיר כי הוא עוזב את תפקידו מכיוון שאינו מוכן לקחת חלק בבהלה התעשייתית לבניית מערכות בעלות אינטליגנציה מסוכנת.

לדבריו, מערכות אלו עלולות לצאת מכלל שליטה ולהוביל בסופו של דבר לאסון עבור האנושות. קוקסון, שלמד מתמטיקה בעברו, ציין כי רבים מעמיתיו לתעשייה משתמשים כיום במונחים דרמטיים כמו "רגעי ההכרעה" ו"משחק הסיום" כדי לתאר את המסלול שבו צועדים המודלים העדכניים.

"אנו נמצאים במסלול שמוביל לתרחישים האגרסיביים ביותר, שבהם עד סוף השנה הבאה הדברים כבר עשויים לצאת לחלוטין משליטה", קבע קוקסון. הוא הוסיף כי הפשרות בתחום הבטיחות הן בלתי נמנעות, במיוחד כאשר החברות נאלצות להתחרות זו בזו באופן יומיומי וכן מול חברות סיניות עולות.

אנתרופיק
אנתרופיק | צילום: REUTERS

קוקסון סיכם את המצב האבסורדי שבו נמצאת התעשייה כיום, כפי שמשתקף בערוצי התקשורת הפנימיים של החברה: "זה די מטורף שגורלנו צריך להיות מוכרע על מחשבי המקבוק של כמה מהנדסים שחיים בסן פרנסיסקו, במקום בבונקר מאובטח במדבר, כפי שעשו בזמנו עם פרויקט מנהטן".

תגיות:
בינה מלאכותית
/
OpenAI
/
אנתרופיק
פיקוד העורף לוגוהתרעות פיקוד העורף