"אנחנו מאמינים שהעולם צריך לקבל את זה שדברים רעים מסוימים יקרו, בתמורה ליתרונות של הטכנולוגיה הזאת ולכך שלאנשים תהיה יכולת בחירה ושליטה", אמר אלטמן בראיון ל־Decoded של אתר Politico, שפורסם אתמול (ראשון).
דבריו נאמרו במסגרת דיון על המחלוקת המתרחבת בין OpenAI לבין אחת המתחרות המרכזיות שלה, חברת אנתרופיק, באשר למידת הפיקוח והרגולציה הדרושים על מערכות בינה מלאכותית מתקדמות. לדברי אלטמן, אף שהעמדות של שתי החברות התקרבו בחודשים האחרונים בכמה נושאי בטיחות, עדיין קיים ביניהן פער מהותי בתפיסת העולם. "אני חושב שיש בינינו פער גדול מאוד", אמר.
"מעבדה אחת בסן פרנסיסקו לא יכולה להחליט עבור כולם"
אלטמן אמר כי הוא מבין את הגישה שלפיה מערכות AI עשויות להפוך לחזקות ומסוכנות כל כך, עד שיש להגביל אותן למספר קטן מאוד של גופים. לדבריו, יש מי שסבורים ש"מעבדה אחת בסן פרנסיסקו" צריכה לשלוט בטכנולוגיה, לוודא שלא יתרחש דבר רע ולהחליט כיצד לחלק את יתרונותיה לציבור.
אולם הוא דחה גישה זו וכינה אותה "פשרה בלתי מתקבלת לחלוטין". לשיטתו, הניסיון למנוע לחלוטין שימוש לרעה בבינה מלאכותית עלול ליצור ריכוז כוח מסוכן לא פחות, שבו מספר מצומצם של חברות או מוסדות יקבעו מי רשאי להשתמש במערכות החזקות ביותר ולאילו מטרות.
עם זאת, אלטמן הדגיש כי דבריו אינם מתייחסים לסיכונים קטסטרופליים. הוא אמר כי אינו מוכן לקבל תרחישים של "סיכונים קטסטרופליים באמת", ובהם מצב של "אובדן שליטה משמעותי על AI". כלומר, לדבריו, יש הבדל בין נזקים כמו הונאות, מתקפות סייבר ושימושים זדוניים אחרים, לבין מצב שבו מערכות מתקדמות יוצאות משליטה.
המחלוקת עם אנתרופיק
הוויכוח מתנהל על רקע חששות גוברים מיכולתם של מודלים מתקדמים לשמש להונאות, מתקפות סייבר, מניפולציה והפצת מידע כוזב. אלטמן אינו מכחיש את הסיכונים, אך טוען כי ניסיון למנוע כל נזק מראש עלול לחייב הגבלות כה קשות, עד שהציבור יאבד את הגישה לטכנולוגיה ואת היכולת ליהנות מיתרונותיה.
במילים אחרות, עמדתו של מנכ"ל OpenAI היא כי יעד של "אפס נזק" אינו מציאותי, וכי השאלה המרכזית איננה אם AI יגרום נזק כלשהו, אלא איזה היקף של סיכון החברה מוכנה לקבל בתמורה לתועלת שהוא עשוי לספק.
התרעות פיקוד העורף