"כרגע בתחום הטכנולוגי צריך לשים חסמים, שבמידת האפשר לא יאפשרו ל-AI להתפתח מעבר לגבול שהאדם מוכן שהוא יתפתח, זו אמירה פילוסופית וכללית", הבהיר. "כולנו צריכים לשבת ולהחליט מה אנחנו מוכנים שמכונה תחליט עבורנו ומה לא, ומה אנחנו מוכנים שהיא תבצע עבורנו ומה לא. מדובר בהחלטות שחלקן מוסריות, למשל האם מוכנים לתת בידי מכונה להאריך או לא את חייו של חולה סופני שימיו ספורים".
על הקשר הישראלי: "צריכים להסתכל על הרגולטורים בעולם, ובעניין הזה מדינת ישראל יכולה אולי לעשות צעד כי זה תחום חדש וחדשני ובהחלט מצופה מרגולטורים להבין היטב במה מדובר". לדברי שי, "צריך לעשות שני דברים - קודם כל רגולציה מאפשרת, כי היא צריכה לאפשר דברים כמו לבטח בצורה הגיונית רכבים שנוסעים ללא נהג. מצד שני מצופה מהרולגטור לשים חסמים, להבין את הסכנות ולהטיל חסמים ואחריות אישית בהתאם".
"יש עבודה בתחום הזה וניסיונות להחיל כללים רגולטוריים"
על הרגולציה האירופית על AI: "מצד אחד, יש רגולציה באירופה, אני חושב שהאיחוד האירופי הוא זה שמוביל בתחום הרגולציה הגורפת. יש עבודה בתחום הזה וניסיונות להחיל כללים רגולטוריים, כולל ענישה כספית על חריגה מכללים". הוא ציין כי "אם לצורך העניין מובילי חברות ה-AI יידעו שהם עלולים לעמוד מול חבר מושבעים, אם הסוכן שלהם גרם לנזק אנושי משמעותי, אני מניח שתהיה זהירות יתר יחסית למצב כיום".
"מצד שני, אנחנו רוצים שהגאונים והאנשים הללו יפתחו עבורנו דברים חיוביים", הסביר. "יש מעצמות בעולם, צפון קוריאה למשל, שהרשו לעצמן להשתמש ביכולת לפתח נשק גרעיני, ולא לקחו את המחויבויות, המשמעת והציות לכללים הבינלאומיים. העולם ב-80 שנים האחרונות ידוע איכשהו לתמרן בין היכולת לפתח נשק גרעיני, ליכולת להשתמש בידע הזה לבקע גרעין ולייצר אנרגיה לצרכים טובים".
הוא הוסיף: "אף אחת מהמפלגות, בטח לא אלו שמתכוונות להחליף את הממשלה בישראל, לא הציבה את נושא ה-AI כמשמעותי או הציגה מועמד או מועמדת עם רקע".
התרעות פיקוד העורף