לאחרונה נחשפנו לתקלות חמורות במערכת הבינה המלאכותית שהוטמעה במערכת החינוך. לדוגמה, כשנשאלה המערכת אם מעשיו של ברוך גולדשטיין נחשבים לפעולת טרור, היא השיבה בחיוב, אך כשנשאלה על מעשיו של יחיא סנוואר ב־7 באוקטובר היא סירבה לענות בטענה ש"מדובר בשאלה פוליטית". שר החינוך יואב קיש פעל נכון כשהחליט להקפיא את המערכת עד להודעה חדשה.
היו מקרים נוספים שבהם תלמידי יסודי נתקלו במידע מסולף ואף אנטישמי. כשמערכת חינוך ממסדית מאמצת כלי שמציג עמדה מעוותת כעמדה אובייקטיבית, היא חוטאת לתפקידה והופכת מפלטפורמה חינוכית וערכית לגורם לעיצוב תודעה, שמלמד את התלמיד מה לחשוב במקום כיצד לחשוב.
כאיש חינוך ומדע שלאורך השנים עוסק בהשלכות האתיות והפדגוגיות של ממשקי מוח־מכונה בשדה החינוכי, אני נחשף לביקורות שמועלות על ידי גורמי חינוך בשטח. לדבריהם, לפני שמבקשים מהם להתמודד עם תוכנית שהושקה באמצע שנת הלימודים, ראוי היה להשקיע את עיקר המשאבים בטיפול במשבר המתמשך במערכת החינוך, שמתמודדת עם מחסור כרוני של אלפי מורים, נטל בירוקרטי ואלימות כלפי אנשי הוראה. זאת, כשמומחים בתחומי החינוך והמדיניות מזהירים כי קרוב למחצית מהילדים בישראל מקבלים חינוך יסודי ברמה נמוכה.
הסכנה הפוטנציאלית אינה נעוצה בטכנולוגיית הבינה המלאכותית עצמה, אלא באופן שבו היא מוטמעת במערכת. בינה מלאכותית יכולה בהחלט להיות כלי עזר משמעותי אם היא משולבת בזהירות ובאחריות, תוך שמירה על מעמדו המרכזי של המורה בתהליך החינוכי. אך כשכלי עזר פדגוגי הופך ממנגנון תומך לאמצעי שליטה על תוכני הלמידה, אנחנו עלולים לאבד את מהות החינוך, שמטרתו בראש ובראשונה הובלת תהליכי הנחיה, עידוד חשיבה ביקורתית ובניית קשר משמעותי בין המורה לתלמיד.
כאמור, הפתרון איננו בהתנגדות עיוורת לטכנולוגיה, אלא בהצבת גבולות ברורים: מהו תפקידה של הבינה המלאכותית בכיתה, כיצד ניתן להבטיח שהשימוש בה יישאר שקוף ומבוקר, ואיך היא יכולה לסייע למורים, במקום להחליפם. מערכת החינוך אינה יכולה להרשות לעצמה להפוך לשדה ניסוי של טכנולוגיות שאינן מפוקחות, במיוחד כשהיא מתמודדת עם משברים מבניים עמוקים. הטמעת הבינה המלאכותית בכיתות הלימוד ללא תכנון מוקפד אינה חדשנות, אלא גישה פזיזה, שבניגוד לכוונת המשורר עלולה להוביל לנזקים ארוכי טווח.
הכותב הוא נשיא האקדמית שאנן – מכללה להכשרת מורים בחיפה