פרופ' איצקוביץ' מסביר כי בינה מלאכותית משנה אומנם את הדרך שבה בני אדם לומדים, עובדים ומקבלים החלטות. היא יכולה לשפר אבחון רפואי, להנגיש ידע ולייעל שירותים ציבוריים. עם זאת, עיבוד נתונים וחיזוי דפוסים אינם מבטיחים החלטה נכונה או הוגנת. השאלה אינה אם לעצור פיתוח, אלא כיצד להבטיח שהטכנולוגיה תישאר כלי המשרת בני אדם, ולא מנגנון הקובע את גורלם ללא אחריות או אפשרות לערער. הסיכון המרכזי הוא החלטות פגומות שנראות לנו בטעות כאובייקטיביות.
"מערכות AI לומדות מנתונים היסטוריים", הוא מזהיר. "כשהן כוללים אפליה, טעויות או חוסר ייצוג, הן עלולות לשכפל עיוותים בקבלת החלטות על אשראי, עבודה, רווחה או משפט. לכך מצטרף מידע כוזב בקנה מידה רחב: טקסטים, תמונות וקולות משכנעים מאפשרים התחזות, הונאה והשפעה על השיח הציבורי".
פרופ' איצקוביץ' מוסיף כי "בשבוע האחרון התחדדה התמונה כאשר OpenAI הודיעה שהיא תומכת בדרישות מחייבות לבדיקות בטיחות עצמאיות, ושיש להאט או לעצור פיתוח כאשר בטיחותו אינה ניתנת להבטחה. Anthropic דיווחה על שיבוש שימושים זדוניים במודלים שלה, מסייבר והונאות ועד מעקב. האחריות אינה מוטלת על מהנדסים בלבד. ממשלות צריכות לקבוע כללים אכיפים, מוסדות חינוך צריכים לטפח אוריינות דיגיטלית ביקורתית, חברות צריכות להעדיף בטיחות גם כשהיא מאטה השקה".
התרעות פיקוד העורף