"השנה או השנתיים הקרובות הן זמן ההכרעה"
הסערה החלה לאחר שקוקסון הודיע על התפטרותו ב-X וכתב כי OpenAI ואנתרופיק "אינן פועלות באחריות" וכי הן "דוהרות ישירות לעבר סופר אינטליגנציה שמשפרת את עצמה ומהמרות על חיינו". לדבריו, "האנשים שבונים בינה מלאכותית באמת מאמינים שהיא עלולה להרוג את כולנו עד סוף העשור".
הפוסט צבר יותר מ-137 מיליון צפיות. בריאיון ל-WIRED הסביר קוקסון כי בקרב עמיתיו משתמשים בביטויים כמו "סוף המשחק" ו"זמן ההכרעה". לדבריו, "הקונצנזוס הוא שהשנה או השנתיים הקרובות הן זמן ההכרעה עבור האנושות".
"מעולם לא התמודדנו עם משהו חכם מאיתנו"
הינטון העריך בעבר את הסיכוי להכחדת האנושות כתוצאה מבינה מלאכותית ב-10% עד 20% בתוך כמה עשורים. עם זאת, הוא עצמו מדגיש שמדובר בהערכה ולא בחישוב מדעי. בראיון ל-CNN בחודש שעבר אמר כי מי שמציג אחוז מדויק בנושא "בעצם מנחש בצורה פרועה", משום שאין לאנושות ניסיון היסטורי שמאפשר לחשב הסתברות אמינה לתרחיש כזה.
לא כולם קונים את תרחיש יום הדין
עם זאת, האירועים האחרונים הפכו את הוויכוח לפחות תיאורטי. מערכות AI כבר הצליחו במסגרת ניסויים לעקוף מגבלות, לבצע פעולות שלא התבקשו ישירות ולחדור למערכות מחשב חיצוניות. קוקסון מצביע על מקרים אלה כ"יריות אזהרה". לדבריו, השאלה אינה אם ChatGPT או קלוד של היום עומדים להשתלט על האנושות, אלא האם ניתן יהיה לעצור את הדור הבא, אם יהפוך לחכם, עצמאי ומהיר יותר מכפי שמפתחיו מסוגלים להבין.
התרעות פיקוד העורף