על הנייר, זה נשמע נהדר. הרי מי לא רוצה שהפנסיה שלו תנוהל על ידי מוח-על דיגיטלי נטול אגו? אבל רגע לפני שאנחנו משחררים לגמרי את הרסן, מחקר מקיף שפורסם לאחרונה מציב בפנינו מראה לא פשוטה. הוא שואל שאלה שקצת מפחיד לשאול: האם ייתכן שתהליך הלימוד של הרובוטים האלה מתבצע בעצם… על חשבוננו?
כדי להבין את הבעיה, צריך להבין איך המכונות החדשות לומדות. בניגוד לתוכנות הישנות שעבדו לפי חוקים קשיחים ("אם המניה יורדת ב-2%, תמכור"), האלגוריתמים של היום הם סוכנים אוטונומיים. הם לא מקבלים הוראות, הם מקבלים מטרה: להרוויח כסף. את הדרך לשם? הם צריכים לגלות לבד.
איך הם מגלים? באמצעות תהליך חקירה. דמיינו ילד שלומד ללכת ונופל שוב ושוב עד שהוא מצליח. זה חמוד כשהילד נופל על השטיח בסלון. אבל בשוק ההון, כשהאלגוריתם מחליט "לבצע ניסוי" כדי לבדוק איך השוק יגיב, הוא עושה את זה עם כסף אמיתי.
במשחק שחמט, המחשב יכול לשחק מיליון משחקים נגד עצמו בלי שזה יעלה אגורה לאף אחד. בבורסה, "ניסוי" של אלגוריתם - למשל, מכירה פתאומית כדי לראות אם יש קונים - גורם לתנודות מחיר אמיתיות. והן? הן ה"רעש" שפוגע בערך התיק של כולנו.
המחקר מצא דבר מדהים: רובוט אחד זה נחמד, אבל כשיש המון רובוטים שכולם מנסים ללמוד אחד מהשני בו זמנית, נוצרות סתירה והתנגשות. אלגוריתם א' עושה ניסוי, אלגוריתם ב' חושב שזה מידע אמיתי ומגיב בפאניקה, ופתאום קיבלנו "מפולת בזק" בלי שום סיבה כלכלית אמיתית. המחיר מפסיק לשקף את שווי החברה והופך לזירת התגוששות בין מכונות.
אנחנו נמצאים בנקודה קריטית. הטכנולוגיה כאן כדי להישאר, והיא אכן תביא איתה פרודוקטיביות אדירה בעתיד. אבל כרגע, אנחנו בשלב המעבר המסוכן. ללא אסדרה חכמה שתגביל את הניסויים האלה בסביבת המסחר החיה, שוק ההון עלול לאבד את תפקידו כברומטר של הכלכלה.
אל תיבהלו, אבל תהיו ערניים. כשאתם רואים תנודות חריפות ובלתי מוסברות בתיק שלכם בשנים הקרובות, יכול להיות שזה לא בגלל שהכלכלה השתנתה, אלא פשוט כי איזה רובוט החליט שהגיע הזמן ללמוד שיעור חדש ואתם אלו שמשלמים את שכר הלימוד.
התרעות פיקוד העורף