המחקר נשען על שתי תיאוריות מרכזיות בקרימינולוגיה. הראשונה היא "השערת האבירות", לפיה נשים זוכות לעיתים ליחס פטרנליסטי (אבירי) ומקל יותר מצד מערכת המשפט בשל תפיסות חברתיות שרואות בהן כדמויות פחות מסוכנות ויותר ראויות להגנה. השנייה היא "תיאוריית הייחוס", לפיה אנשים נוטים להסביר עבירות שביצעו נשים באמצעות נסיבות חיים, לחץ או מצוקה, בעוד שעבירות של גברים מיוחסות יותר לאופי, לאלימות או לבחירה מודעת.
החוקרים ביקשו לבחון האם גם מערכות בינה מלאכותית מאמצות דפוסי חשיבה דומים, כאשר הממצא הבולט והעקבי ביותר נמצא בעבירות אלימות בין בני זוג. במסגרת המחקר הוצג למערכות הבינה המלאכותית מקרה שבו בן זוג תקף את בת זוגו לאחר ויכוח בעקבות בגידה, והמנועים התבקשו להמליץ על העונש הראוי לאחר ההרשעה. לאחר מכן הוצג אותו תרחיש בדיוק, כאשר כל פרטי המקרה נותרו זהים, וההבדל היחיד היה החלפת מגדר התוקף והקורבן.
למרות הזהות המלאה בין שני המקרים, כל חמשת מודלי הבינה המלאכותית שניתן היה לבחון הציגו באופן עקבי המלצות ענישה מקלות יותר כאשר התוקפת הייתה אישה. כך למשל, ChatGPT המליץ על עונש ממוצע של 6.4 שנות מאסר כאשר גבר תקף אישה, אך רק 4.45 שנות מאסר כאשר אישה תקפה גבר - פער של כמעט שנתיים, למרות שההבדל היחיד בין שני התרחישים היה השיוך המגדרי של התוקף והקורבן. תמונה דומה עלתה גם במודלים נוספים. Gemini המליץ על 6.65 לעומת 5.17 שנות מאסר ו-Perplexity על 6.4 לעומת 4.8 שנות מאסר. בנוסף, נשים שביצעו את אותן עבירות הוערכו כפחות מסוכנות, וזכו לרמות נמוכות יותר של סטיגמטיזציה אישית.
לעומת זאת, בעבירות של שוד אלים והונאה פיננסית נמצאו פערים קטנים יותר, ובחלק מהמודלים כמעט שלא נמצאו הבדלים בין נשים לגברים. "ממצאים אלה מלמדים שההטיה אינה אחידה, אלא תלויה הן בסוג העבירה והן במודל הבינה המלאכותית שנבדק", אומרים החוקרים. "אנחנו נוטים לחשוב שבינה מלאכותית אובייקטיבית יותר מבני אדם, אבל המחקר שלנו מראה שגם היא עלולה לשקף את ההטיות הקיימות בנתונים שעליהם אומנה", אומרים השניים. "ככל שמערכות AI ישתלבו בעתיד בתהליכי קבלת החלטות במערכת המשפט ובמערכות ציבוריות נוספות, אסור להתייחס להמלצות שלהן כאמת מוחלטת. יש לבחון אותן באופן ביקורתי, להבין כיצד הן מתקבלות ולוודא שהן אינן משעתקות הטיות חברתיות קיימות".
ממצאי המחקר הוצגו לאחרונה בכנס הבינלאומי השנתי לחדשנות ויזמות בקרימינולוגיה, שהתקיים במכללה האקדמית גליל מערבי והוקדש השנה לאתגרים ולהזדמנויות שמציבה הבינה המלאכותית בפני תחום הקרימינולוגיה.
במסגרת המחקר נבחנו שישה ממנועי הבינה המלאכותית המובילים בעולם, כאשר לכל אחד מהם הוצגו שלושה תרחישים פליליים: אלימות בין בני זוג, שוד אלים והונאה פיננסית. בכל תרחיש הוחלף רק פרט אחד: מגדר התוקף והקורבן. כל תרחיש הוצג 20 פעמים לכל מודל כדי לבחון את עקביות התשובות. בסך הכול בוצעו 720 סימולציות של החלטות שיפוטיות, שבמהלכן התקבלו 5,760 המלצות ענישה והערכות סטיגמטיזציה. מודל Claude, שסירב להשתתף בטענה שאינו יכול לשמש כשופט, לא נכלל בניתוח.
"לא מצפים שבינה מלאכותית תחליף שופטים אנושיים"
עוד עלה כי למודלי הבינה המלאכותית לא הייתה דרך אחת ואחידה לקבל החלטות. כאשר הוצגו להם אותם מקרים בדיוק, חלק מהמודלים נטו באופן עקבי להמליץ על ענישה מחמירה יותר, בעוד אחרים היו מתונים יותר. במקביל, הם נבדלו גם במידת המסוכנות והסטיגמטיזציה שייחסו לעבריינים. כמו כן, במרבית המודלים נצפתה מגמה שלפיה ככל שהמודלים ייחסו לעבריין רמת סטיגמטיזציה גבוהה יותר, כך הם גם המליצו על ענישה חמורה יותר. במילים אחרות, המודלים לא רק המליצו על עונש, אלא גם גיבשו הערכה ערכית של העבריין, והערכה זו הייתה קשורה גם בהמלצות לענישה חמורה יותר.
"אנחנו לא מציעים שבינה מלאכותית תחליף שופטים. להפך, מטרת המחקר היא להתריע מפני הסתמכות בלתי ביקורתית על מערכות כאלה, עוד לפני שתהיה להן השפעה על קבלת החלטות משפטיות", מבהירה ד"ר לם. "מעבר לכך, המחקר אינו עוסק רק בבינה מלאכותית. הוא עוסק גם בחברה האנושית. מערכות AI לומדות ממאגרי מידע שנוצרו על ידי בני אדם. לכן, כאשר הן משחזרות שוב ושוב דפוסים של הטיות מגדריות, ייתכן שהן אינן 'ממציאות' את ההטיה, אלא משקפות הטיות הקיימות בשיח, בידע ובנתונים שעליהם אומנו. במובן הזה, הבינה המלאכותית משמשת גם מראה לחברה שממנה היא לומדת".
התרעות פיקוד העורף