בשנים האחרונות בכלל, ובחודשים האחרונים בפרט, נראה שאי אפשר להתחמק מהבוטים שמקיפים אותנו מכל הכיוונים - משירות הלקוחות של חברות שונות, עד הזמנות שונות. במקביל, בחודש יוני האחרון, כאשר מהנדס מגוגל טען כי מערכת הבינה המלאכותית - פיתחה בינה, וחברה טסלה חשפה את הרובוט האנושי שלה.
לאן העולם מתקדם? האם נעבור ממצב בו הנשמה יוצאת עד שמגיעים לנציג טלפוני - למצב בו הבינה המלאכותית תנסה להשתלט על העולם, ואפילו (חס וחלילה) להיפטר מאיתנו? "בואי נבהיר את זה - המערכת של גוגל לא פיתחה בינה מלאכותית, אבל נוצר רעש מסוים סביב הנושא", הסבירה ד"ר לירז מרגלית, "הבוטית שלהם יודעת לחקות את בני האדם בצורה מדהימה, כמו במבחן טיורינג, אבל זו לא באמת מודעות, שכן יש הבדל בינה לבין אינטליגנציה - שכן היתה שם".
"המקרה של גוגל, ומקרה דומה שהתרחש לאחר הכרזה של פייסבוק על בוטים שקיבלו את היכולת להתמקח בעת ניהול משא ומתן - ופיתוחים נוספים מהשנים האחרונות - מלחיצים אותנו מאוד, מעודדות נבואות שווא ומעלות חשש ופאניקה ממצב בו המציאות תיראה כך בעתיד", ציינה. היא הוסיפה כי יש להבין את התחושות הללו ממצב בו הבוטים יבינו שבני האדם לא מביאים תועלת ויחשבו שצריך להיפטר מאיתנו כדי לייצר מציאות יעילה".
ד"ר מרגלית ציינה כי הדוגמה הנפוצה ביותר כיום להאנשה שהמשתמשים עושים לבוטים - היא התגובות שלנו לאפליקציית הניווט WAZE. "אנשים נוטים, בצורה טבעית למדי, לצעקות על הווייז ולריב איתו, למרות שיודעים שאין לאפליקציה מודעות", הדגישה, "הרבה פעמים, אנשים פשוט מנסים להתווכח עם האלגוריתם ולעשות לו 'דווקא'".
שינוי משמעותי
"התחום של בינה מלאכותית, ובפרט הענף של למידת מכונות, מקבלים המון תשומת לב בשנים האחרונות, ויש פה רעיון בסיסי שחייבים להבין אותו - פיתוח אלגוריתם שיבין, ויוכל לקבל החלטה במצבים מסוימים, ושיידע לפתור בעצמו בעיות - בלי שתוכנת לכך מראש", הוסיפה, "בעבר, האלגוריתם היה מבוסס על כללים ברורים - אם רואים חייל אדום אז פונים לכיוון מסוים, ואם רואים חייל צהוב אז מסתערים - וכיום ישנה התפתחות משמעותית מבחינת היכולות, והיא יכולה להיות מאוד מלחיצה. בעצם, במצב הזה האלגוריתם לא מקבל מראש את הכללים, אלא רק את המידע הבסיסי, כולל הגדרה של מהי הצלחה ומהו כישלון, והוא נדרש להסיק זאת באמצעות ניסוי וטעייה".
"האלגוריתמים יכולים להתעלות על בני האדם בדברים ספציפיים, אבל כשמסתכלים על רכב אוטונומי - הוא לא עובד על בסיס ניסוי וטעייה, אלא מעבד כמויות עצומות של מידע, ומזהה דפוסים באמצעות כוח חישובי", הסבירה ד"ר מרגלית, "כולם אומרים שאנשים נוטים לבצע טעויות, ושהאלגוריתם יוכל לעשות זאת בצורה טובה יותר מאשר בני האדם, אבל לנו יש משהו שאין לאלגוריתם - מודעות וגמישות מחשבתית".
היא הוסיפה: "רובוטים לא יפתחו מודעות בזמן הקרוב, כך שהם ימשיכו להסתבך ברגע שהסביבה הופכת למורכבת, והם נטולי גמישות מחשבתית - כך שהם לא יודעים להשליך את הניסיון והידע בתחום אחד - על תחום אחר. הדבר מתאפשר בזכות המוח האנושי, ואת זה אין לרובוטים".
"בשנים האחרונות נרשמה פריצת דרך בתחום הפסיכולוגיה הקוגניטיבית הקלאסית, אשר במסגרתה הבינו שתהליכי עיבוד המידע והמחשבה הם בכלל לא מה שחשבנו. אם בעבר חשבו שמגיע גירוי חיצוני, עובר עיבוד במוח ואז יש פלט כלשהו שמוביל להחלטה כיצד להגיב - שזאת הנחה משוללת יסוד", ציינה ד"ר מרגלית, "כך הגיעו בעצם לפריצת דרך מטורפת שמסבירה אחת ולתמיד למה מחשבים לא יכולים לפתח מודעות, ומעולם לא תהיה להם".
לדבריה, החוקרים הבינו שגוף האדם כולו לוקח חלק פעיל מאוד בקבלת ההחלטות ובאופן שבו אנחנו מעבדים את המידע. "למשל, אתם תעריכו יותר אדם שיביא לכם קפה חם, לעומת קפה קר, ותעריכו שהדרך תלולה יותר במידה ותחזיקו תיק כבד", ציינה, "בעצם, הקלט מגיע מהחושים ולא רק מהעיבוד מידע במוח. זו הבנה מאוד משמעותית לגבי המודעות שלנו - אם הגישה הקלאסית אמרה שאפשר לקחת את המוח האנושי ולהשתיל בחייזר - כדי שהוא יחשוב כמונו, עכשיו מבינים שזה לא נכון, והגוף כולו לוקח חלק פעיל בהחלטה. אמנם אפשר לייצר תהליך חישובי אצל הרובוטים - אבל לא ניתן לייצר את תהליך החישה, כך שהם לא יכולים לפתח מודעות".
התרעות פיקוד העורף