מיליוני סטודנטים, עובדים וסתם אנשים ברחבי העולם משתמשים כיום ב-ChatGPT על בסיס יומיומי. אולם מחקר חדש שנערך ב-MIT Media Lab (מעבדה מחקרית מפורסמת במכון הטכנולוגי של מסצ'וסטס) מעלה חששות רציניים לגבי השפעת הבינה המלאכותית על יכולות הלמידה שלנו.
במחקר השתתפו 54 סטודנטים שחולקו לשלוש קבוצות שונות. המחקר נמשך על פני מספר מפגשים בהם הסטודנטים נאלצו לכתוב חיבורים. החוקרים מדדו פעילות חשמלית במוח של הנסיינים באמצעות מכשיר אלקטרואנצפלוגרפיה (EEG). המטרה הייתה להבין את "העלות הקוגניטיבית" של מודלי שפה גדולים כמו ChatGPT. קבוצת הבינה המלאכותית נעזרה ב-ChatGPT עבור למטלות הכתיבה, קבוצת החיפוש השתמשה בגוגל לחיפוש מידע, וקבוצת המוח עבדה ללא כל עזרה חיצונית עבור המטלות.
כפי שהחוקרים ציינו: "עם האימוץ הנרחב של היום של בינה מלאכותית כמו ChatGPT של OpenAI, בני אדם ועסקים משתתפים ומשתמשים בבבינה מלאכותית על בסיס יומיומי. כמו כל כלי אחר, הוא נושא איתו מערכת יתרונות וחסרונות משלו. המחקר זה מתמקד בניסיון לגלות מה היא העלות הקוגניטיבית שלנו כשאנחנו משתמשים בבינה מלאכותית בהקשר חינוכי ולימודי, כמו של כתיבת חיבור".
המחקר חשף ממצאים מדאיגים לגבי הקבוצה שהשתמשה ב-ChatGPT. הסטודנטים בקבוצה היו עם זיכרון גרוע יותר מהקבוצות האחרות, פעילות מוח מופחתת במהלך ביצוע המטלות, ומעורבות נמוכה יותר בתהליך הלמידה. בניגוד לכך, הקבוצה שעבדה ללא עזרה חיצונית הראתה פעילות מוח גבוהה יותר ורעיונות מקוריים יותר בתוכן שלהם. הקבוצה שהשתמשה בגוגל הדגימה "מעורבות בינונית".
במהלך תקופת המחקר שנמשכה ארבעה חודשים, התבררו השלכות נוספות. החוקרים הסבירו: "ההשפעה החינוכית של שימוש בבינה מלאכותית רק מתחילה להשפיע על האוכלוסייה הכללית. במחקר זה אנו מדגימים את הנושא החשוב של ירידה בכישורי למידה בהתבסס על תוצאות המחקר שלנו". עוד הוסיפו החוקרים: "לשימוש בבינה מלאכותית הייתה השפעה רבה על המשתתפים, ולמרות שהיתרונות היו ברורים בהתחלה, כפי שהדגמנו במהלך 4 חודשים, משתתפי קבוצת הבינה המלאכותית הציגו ביצועים גרועים יותר מעמיתיהם בקבוצת 'המוח בלבד' בכל הרמות".
המחקר זיהה תופעה מדאיגה נוספת הקשורה ל"תא הד", מצב שבו אנשים חשופים רק למידע התואם את הדעות שלהם. ברשתות חברתיות, לדוגמה, האלגוריתם מציג לנו תוכן דומה למה שאנו כבר חושבים.
החוקרים הסבירו: "זה מדגיש את האבולוציה המדאיגה של אפקט 'תא הד': במקום להיעלם, הוא הסתגל לעצב את החשיפה של המשתמש דרך האלגוריתם". הבעיה עם ChatGPT היא שהמערכת לא מציגה לנו מגוון דעות או נקודות מבט שונות. במקום זאת, היא נותנת תשובות המבוססות על מערך האימונים של הבינה המלאכותית, כלומר התשובות מבוססות על מה שהכי נפוץ בטקסטים שבהם המערכת למדה, ולא בהכרח על מה שנכון או מדויק.
החוקרים הוסיפו: "מה שמדורג כ'עליון' מושפע בסופו של דבר מהעדיפויות של בעלי המניות של הבינה המלאכותית". כלומר, התשובות שאנו מקבלים מושפעות מהאג'נדה של החברה שפיתחה את המערכת, ולא בהכרח מייצגות את האמת או את מגוון הדעות הקיים.
המחקר גילה תופעה מעניינת - כאשר סטודנטים שהיו רגילים לעבוד ללא עזרה חיצונית התבקשו להשתמש ב-ChatGPT, פעילות המוח שלהם דווקא עלתה. החוקרים שיערו שזה קרה בגלל שהסטודנטים ניסו לשלב את הכלי החדש עם הידע הקיים שלהם. בניגוד לכך, הקבוצה שהתרגלה לעבוד עם ChatGPT המשיכה להציג פעילות מוח נמוכה גם כשהתבקשה לכתוב חיבורים בכוחות עצמה.
התרעות פיקוד העורף