בשלב הראשון ניסו מוסדות אקדמיים וארגונים להתמודד עם המציאות החדשה באמצעות גלאים אוטומטיים. תוכנות שהבטיחו לזהות "חתימה" של בינה מלאכותית בטקסטים. אלא שההבטחה הזו התבררה במהרה כבעייתית. הכלים לא היו מדויקים, לעיתים סימנו טקסטים אנושיים כחשודים, ולעיתים החמיצו לחלוטין תוצרים אוטומטיים. בהדרגה, ובמידה רבה של תסכול, התפוגגה האמונה שאפשר להחזיר את השד לבקבוק באמצעות אלגוריתם נוסף.
במקום זאת החל להתרקם שינוי עמוק יותר. לא עוד ניסיון לקבוע מי כתב את המילים, אלא בחינה של הדרך שבה הן נוצרו. תשומת הלב עברה מהשורה האחרונה לתהליך כולו. מהאופן שבו ההנחיות נקראו, דרך הדרך שבה המסמך נבנה, ועד היכולת של הכותב להסביר לעצמו ולאחרים מה בעצם הוא כתב. מתוך הגישה הזו נולדו שורה של שיטות, חלקן גלויות וחלקן כמעט בלתי מורגשות, שמטרתן אחת: לבדוק האם מאחורי הטקסט עומד אדם חושב.
המלכודת הראשונה: "הדיו הבלתי נראה"
המלכודת הזו מבוססת על אחת האמיתות הפשוטות ביותר של העידן הדיגיטלי, בני אדם ומחשבים לא "רואים" טקסט באותו אופן. מה שנראה לנו ברור ומובן מאליו, עשוי להיקרא אחרת לגמרי על ידי מערכת ממוחשבת. וכך זה קורה: הנחיות המטלה נשלחות לעיתים בקובץ דיגיטלי תמים למראה. בתוך הטקסט, באמצעים טכניים פשוטים למדי, משולבים משפטים נסתרים, צבע לבן על רקע לבן, פונט זעיר או שכבת טקסט שאינה נראית בקריאה רגילה. הקורא האנושי מדלג עליהם מבלי לדעת שהם קיימים. אולם כאשר הטקסט מועתק בשלמותו למערכת אוטומטית, כל שכבות המידע עוברות יחד, גם אלו שלא נראו לעין.
עבור המרצים, זו אינה תחבולה אלא מבחן של קריאה. האם הסטודנט התייחס למסמך כאל טקסט שיש להבין, או כאל קלט טכני שיש להעביר הלאה. עבור הסטודנטים, מדובר בשיעור לא מתוכנן על אופי העבודה הדיגיטלית ועל המחיר של ויתור על קריאה ביקורתית.
המלכודת השנייה: מקורות שאינם קיימים
אחת התכונות המטרידות ביותר של מודלי שפה היא הביטחון שבו הם מציגים מידע, גם כאשר הוא שגוי לחלוטין. במטלות מסוימות מופיעה הפניה למאמר, ספר או מחקר שקיומו מוטל בספק, ולעיתים אינו קיים כלל. אדם שמנסה לאתר את המקור מגלה את הבעיה, ולעיתים פונה למרצה או מציין זאת במפורש. מערכת אוטומטית, לעומת זאת, תנסה להשלים את החסר. היא תמציא תוכן משכנע, שמות חוקרים, טענות ומסקנות, הכל נשמע סביר, גם אם אין לכך כל בסיס במציאות. עבור האקדמיה, מקור מומצא אינו רק טעות עובדתית. הוא עדות לכך שתהליך החשיבה נקטע. זו תזכורת כואבת לכך שבינה מלאכותית אינה מבדילה בין אמת לשקר, אלא בין ניסוח משכנע לניסוח פחות משכנע.
המלכודת השלישית: עקבות
המעבר למסמכים חיים, כאלה שנכתבים ונערכים בענן, שינה את יחסי הכוחות בין כותב לקורא. כאשר העבודה מוגשת עם היסטוריית עריכה פתוחה, ניתן לראות את הדרך שבה היא נוצרה. כתיבה אנושית משאירה עקבות. מחיקות, ניסוחים חוזרים, פסקאות שנכתבו בשעות שונות של היום. טקסט שמופיע בבת אחת, שלם ומלוטש, מספר סיפור אחר לגמרי. הבדיקה לא עוסקת עוד בשאלה מי לחץ על המקלדת, אלא האם המסמך משקף תהליך של הבנה, התלבטות ולמידה. זה שינוי שמעמיד במבחן גם כותבים מיומנים, ומדגיש עד כמה הדרך חשובה לא פחות מהתוצאה.
המלכודת הרביעית: דפוסים סטטיסטיים בכתיבה
מעבר לעין האנושית, יש מי שמבקשים לזהות את טביעת האצבע המתמטית של הטקסט. טקסטים אוטומטיים נוטים לעקביות. משפטים באורך דומה, קצב אחיד, מבנים תחביריים סימטריים. כתיבה אנושית, לעומת זאת, היא פחות צפויה. היא כוללת קפיצות, חריגות, ולעיתים גם אי סדר קל שמקורו במחשבה חיה. אין כאן ראיה חד משמעית, אלא הצטברות של רמזים. כשהטקסט נראה מושלם מדי, מאוזן מדי, הוא עלול לעורר חשד דווקא בגלל זה.
המלכודת החמישית: אילוצים פורמליים
לעיתים המבחן אינו בתוכן, אלא ביכולת לעמוד בכללים. הנחיות טכניות, מבנה קבוע לפסקאות, הימנעות ממילים מסוימות, נועדו לבדוק תשומת לב לפרטים. ככל שהעבודה מתארכת, כך קשה יותר לשמור על כל הכללים במקביל. המשמעות היא שעמידה עקבית באילוצים נתפסת כסימן לשליטה בטקסט ולמעורבות עמוקה בתהליך הכתיבה.
המלכודת השישית: שיחת ההגנה
בעידן הדיגיטלי, השיחה האנושית חוזרת למרכז. לאחר הגשת העבודה מתקיימת לעתים שיחה קצרה. לא חקירה, אלא בקשה להסבר. מה התכוונת כאן, למה בחרת במונח הזה, כיצד היית מסביר את הטענה הזו במילים פשוטות. היכולת לדבר על הטקסט נתפסת כהוכחה להבנה אמיתית, כזו שלא ניתן להעתיק.
המלכודת השביעית: אוצר מילים אופייני
גם לשפה יש דפוסים. מודלי שפה נוטים להשתמש בביטויים כלליים, חיוביים ולעיתים חגיגיים מדי. שימוש מרוכז בהם עשוי לבלוט לעין מנוסה. שפה מדויקת, לפעמים אפילו יבשושית, נתפסת כאותנטית יותר מניסוחים מרשימים אך כלליים.
המלכודת השמינית: תחביר מתורגם
המלכודת התשיעית: מבנה צפוי מדי
שלמות יתר עלולה להיות חשודה. פתיחה שחוזרת על השאלה, גוף סימטרי וסיכום גנרי יוצרים תחושה של תבנית מוכנה. בתוך כך, סימני "זיהוי" שהם חותמת של בינה מלאכותית, כמו פיסוק לא נכון, היפוך אותיות, הצמדה של אותיות באנגלית לאותיות בעברית, עלולות לסמן שהטקסט נכתב על ידי בינה. כתיבה אנושית נוטה להיות פחות אחידה, ולעיתים גם פחות "יפה", אך יותר אישית.
המלכודת העשירית: עיצוב סטרילי
גם המראה מספר סיפור. ריבוי רשימות, תבליטים ותבניות אחידות יוצר מראה טכני ומנוכר. טקסט זורם, עם פגמים קטנים, נתפס לעיתים כאנושי ואמין יותר.
התרעות פיקוד העורף