לדבריה, השיח הציבורי מתמקד בעיקר ביכולת של מערכות AI לספק תשובות נכונות, אך מתעלם מהיבט קריטי בהרבה עבור ארגונים, אמינות. "ארגונים לא מחפשים עובד שצודק רוב הזמן", היא מסבירה. "הם מחפשים עובד עקבי, כזה שלא מתפרק כשיש שינוי בתנאים, שיודע לומר 'אני לא בטוח' ושגם כשהוא טועה, הטעות שלו ניתנת לתיקון".
בהקשר הזה, היא מציינת כי גם מחקרים עדכניים מראים שמודלים מובילים עדיין מתקשים לספק ביצועים יציבים לאורך זמן, ולעיתים מגיבים באופן שונה לאותה שאלה רק בשל שינוי ניסוח. בהקשר הזה, היא מציינת כי גם מחקרים עדכניים מראים שמודלים מובילים עדיין מתקשים לספק ביצועים יציבים לאורך זמן, ולעיתים מגיבים באופן שונה לאותה שאלה רק בשל שינוי ניסוח.
כך למשל, במחקר רחב שבחן 14 מודלים שונים בוצעו מאות הרצות חוזרות לכל שאלה, לעיתים עד כ-500 ניסיונות, במטרה לבדוק עקביות ולא רק תשובה חד-פעמית. הממצאים הראו כי גם כאשר מודל נותן תשובה נכונה, אין ביטחון שיחזור עליה בניסיון הבא, מה שמדגיש את הפער בין דיוק נקודתי לבין אמינות לאורך זמן.
הפער הזה מקבל משמעות כלכלית ממשית בענפים שבהם טעות אינה עניין זניח אלא סיכון מהותי. בתעשיות כמו אנרגיה, תעופה והנדסה, מערכות נדרשות לרמת אמינות גבוהה מאוד, עם סטייה מינימלית בין תרחישים דומים. "ה-AI של היום פשוט לא עומד בסטנדרטים האלה", אומרת די קסטרו. "ולכן, האחריות נשארת אצל בני אדם".
מעבר לאמינות, היא מצביעה גם על מגבלה נוספת של הטכנולוגיה, היעדר יכולת לייצר פריצות דרך. "AI יודע לשפר, לייעל ולחבר בין דברים קיימים, אבל הוא לא חי את העולם", היא אומרת. "הוא לא חווה, לא שואל שאלות מתוך סקרנות, ולא מזהה חריגות שמובילות לגילויים חדשים". לדבריה, גם מחקרים שבחנו את היכולת של מודלים לייצר תגליות מדעיות מצאו כי הם נוטים להישאר בתוך גבולות הידע הקיים, ולא לייצר חשיבה מקורית באמת.
על רקע התחזיות הדרמטיות לגבי עתיד העבודה, די קסטרו מזכירה כי מדובר בתופעה חוזרת בכל מהפכה טכנולוגית. "שמענו כבר ש'חנויות פיזיות ייעלמו' אחרי בועת הדוט-קום בתחילת שנות ה-2000, ש'הכל יעבור לאפליקציות' סביב 2012 עם עליית הסמארטפונים, וש'לא נצטרך בנקים' בגל הקריפטו של 2021", היא אומרת.
"גם היום, ב-2026, שומעים ש'AI יחליף את כולם'. בכל פעם הנבואות היו חדות, ובכל פעם המציאות הייתה מורכבת יותר". לדבריה, בפועל נוצר מודל משולב, המסחר המקוון צמח לצד קניונים מלאים, אפליקציות לא העלימו את האתרים, והמערכת הבנקאית לא נעלמה אלא התאימה את עצמה. "גם במקרה של AI, התוצאה לא תהיה החלפה מוחלטת אלא שילוב בין חדש לישן, עם התאמות בשוק העבודה ולא מחיקה שלו".
המודל שמסתמן כיום, לדבריה, הוא כזה שבו האדם נשאר חלק בלתי נפרד מהמערכת. "אנחנו מדברים על 'Human in the loop' - עבודה משותפת, שבה בני אדם מאמנים את המערכות, מזינים אותן בנתונים ומפקחים על התוצאות", היא אומרת. "התפקידים משתנים, אבל לא נעלמים".
בהיבט העסקי, היא מציינת כי חברות שבחרו לשלב AI ככלי תומך ולא כתחליף לכוח אדם מציגות תוצאות מובהקות יותר. "אנחנו רואים ארגונים שמצליחים לשפר פרודוקטיביות עד פי שלושה, לצד צמיחה של 38% בהכנסות, ובמקרים מסוימים גם גידול של כ-10% בכוח האדם", היא אומרת. לדבריה, השיפור אינו נובע מהחלפת עובדים אלא מהעברת משימות חוזרות לאוטומציה, מה שמאפשר לעובדים להתמקד בפעילות בעלת ערך גבוה יותר.
שי קסטרו מדגישה כי המשמעות הכלכלית היא שינוי במבנה התעסוקה ולא צמצום כולל. "הביקוש לעובדים לא נעלם, הוא פשוט משתנה", היא אומרת, ומוסיפה כי ארגונים נדרשים להשקיע בהכשרה ובהטמעה כדי למצות את הפוטנציאל של הטכנולוגיה. השאלה המרכזית אינה האם ה-AI יחליף עובדים, אלא כיצד עובדים וארגונים יבחרו להשתמש בו. "המקום שלנו לא נעלם", היא מסכמת. "אבל הרלוונטיות שלנו תלויה ביכולת להסתגל ולהשתמש בכלים החדשים בצורה חכמה".
התרעות פיקוד העורף