כבר לא צריך ידע מקצועי בתוכנות עריכה כדי ליצור תוכן מזויף של ילד אחר. תמונה רגילה מאינסטגרם, מטיקטוק או אפילו מתמונת מחזור יכולה להפוך באמצעות כלי AI לתמונה פוגענית או מינית שנראית אמיתית.
קיצור דרך לבריונות
"ללמד ילדים 'פרומפטינג' (טכניקה מענף ה-AI - י"ב) בלי מצפן אתי זה כמו לתת להם רישיון נהיגה בלי ברקסים. המערכת מתמקדת ביעילות הטכנית, איך להוציא תוצר מהיר, במקום לחנך להבנת ההשלכות של הפעולה".
"אם אנחנו מלמדים אותם איך להפעיל את המכונה אבל לא איפה עובר הגבול המוסרי של פגיעה בפרטיות ובזהות של האחר, ה-AI הופך בתוך שניות ממתקן לימודי לקיצור דרך לבריונות", אמר.
הבעיה, לדבריו, היא שהמחסום הטכנולוגי כמעט נעלם. מה שבעבר דרש ידע מתקדם, היום יכול להיעשות בטלפון. "מוח של נער בן 13 פשוט לא בנוי לווסת דחפים מול כלים שהונדסו להיות נטולי חיכוך לחלוטין כשהמרחק בין דחף רגעי או 'בדיחה' בקבוצה לבין פגיעה אנושית הרסנית הוא לחיצת כפתור אחת".
ילדים חייבים לתרגל ספקנות ביקורתית
תמונות מזויפות הן רק חלק מהאתגר. באמצעות AI ניתן כיום לחקות קול, ליצור צילום מסך מזויף של שיחה, לכתוב הודעה בשם אדם אחר או לייצר סרטון שבו תלמיד נראה כאילו אמר או עשה דבר שמעולם לא קרה. במקביל, ככל שהכלים משתפרים, קשה יותר גם לזהות מה אמיתי ומה נוצר באופן מלאכותי.
"בעבר לימדנו ילדים איך לא להפוך לקורבנות של זרים. היום, כשהם הפכו ליצרנים אקטיביים של תוכן אלגוריתמי בלחיצת כפתור, החינוך חייב לעבור מאינטרס של התגוננות פסיבית למחויבות של אחריות אקטיבית. ילדים חייבים לתרגל ספקנות ביקורתית לא רק כלפי מה שמוצג להם במסך, אלא בעיקר כלפי התוכן שהם בוחרים לייצר ולהפיץ בעצמם", אומר ברקת.
לדבריו, לצד לימוד השימוש בכלים עצמם, בתי הספר צריכים לעסוק גם בשאלות כמו האם מותר להעלות תמונה של אדם אחר למערכת AI, מה קורה למידע שמעלים לכלי, כיצד בודקים אם מקור שה-AI הציג בכלל קיים, ומה עושים כאשר מישהו יוצר ומפיץ תוכן מזויף על תלמיד אחר.
הפער הזה בין לימוד הכלי לבין לימוד האחריות שמגיעה איתו מתחיל כעת לקבל גם מענה מעשי. בבית הספר הניסויי במרכז ירושלים יוצא לדרך פיילוט חדשני בתחום הבינה המלאכותית, בשיתוף "ביתא מחנכים" ויחידת החדשנות העירונית. במסגרת הפיילוט ילמדו תלמידי שכבה י' תוכנית ייחודית המשלבת בינה מלאכותית, אתיקה וחשיבה ביקורתית.
בשונה מרוב תוכניות הלימודים הקיימות, המתמקדות בלימוד כלי AI, התוכנית הניסיונית בירושלים עוסקת בשאלות שמעצבות כבר היום את עולמם של התלמידים: כיצד בינה מלאכותית משנה את הדרך שבה אנחנו לומדים וחושבים, כיצד משתמשים בה באופן שמפתח ולא מחליף את החשיבה האנושית, ומהן ההשלכות האתיות, הרגשיות והחברתיות של הקשר המתהדק בין אדם למכונה.
הפיילוט צמח מתוך תוכנית מעבדה למורים מובילים ב"ביתא מחנכים", בשיתוף מחקר ופיתוח של יחידת החדשנות העירונית ומתוך יוזמה של צוות מורים בבית הספר הניסויי. השאיפה היא לפתח את התוכנית בהדרגה למגמה תלת-שנתית בהיקף של 5 יחידות לימוד, ובהמשך לבחון את הרחבתה כמגמה על-אזורית הפתוחה לתלמידים מרחבי ירושלים.
מדובר במהלך שנמצא בראשית דרכו, אך הוא מבקש להציב את מערכת החינוך לא רק כמי שמגיבה למהפכת הבינה המלאכותית, אלא כמי שמכינה את התלמידים לחשוב, לבחור ולפעול בתוכה באופן ביקורתי, אחראי ואנושי.
"הפיילוט החדשני בבית הספר הניסויי מוכיח שמערכת החינוך העירונית לא רק צועדת בקצב אחד עם המהפכה הטכנולוגית, אלא שמה במרכז את הערכים, האתיקה והחשיבה האנושית", אומר ראש העירייה משה ליאון. "אנחנו מכינים את תלמידי העיר להיות לא רק משתמשים בטכנולוגיות המתקדמות ביותר, אלא מנהיגים סקרנים, ביקורתיים ואחראיים שיובילו את המחר".
פתרון הבעיה, מדגיש ברקת, לא יגיע מהפחדת הילדים או מניסיון להוציא את הבינה המלאכותית מבית הספר. לדבריו, נדרשת אחריות מערכתית משולבת: רגולציה קשיחה שתחייב את חברות הטכנולוגיה בסטנדרטים של בטיחות מראש, לצד תהליך חינוכי שמציב את האתיקה והחמלה האנושית לפני הביצוע הטכנולוגי. "האתגר שלנו הוא לא לגדל מפעילים מהירים של AI אלא בני אדם אחראיים שלא יפגעו באמצעותו".
התרעות פיקוד העורף