לדבריו, המערכת רכשה 10,000 חשבונות, שמתוכם כ-1,000 הופעלו בפועל, והמודל הוא זה שבחר אוטונומית את נושאי השיחה. סלק הודה בדיעבד כי היה עליהם לעדכן את הפלטפורמות מראש על קיום הניסוי. דובר מטעם חברת מטא אישר כי זיהה "ניסיון מתואם ליצור חשבונות לא אותנטיים", והדגיש שרובם הגדול הוסר מיד על ידי המערכות האוטומטיות של החברה. במקביל, בדו"ח שפרסמה מטא בחודש שעבר, הוזכר קמפיין נפרד נוסף שהופעל על ידי "גוף מסחרי המבוסס בישראל", שעשה שימוש במערך טכנולוגי מורכב להפצת תוכן. מטא ציינה בדו"ח כי הטכנולוגיה כיום "מוטמעת בתוך מערכות אוטומטיות שיכולות לייצר, להתאים ולהפיץ תוכן במינימום התערבות אנושית".
קמפיינים סינים ואיראנים נגד ארה"ב
לצד החברות המסחריות הישראליות, האיום המדינתי מטריד לא פחות את קהילת המודיעין בארצות הברית. הקמפיין האיראני התחזה לאזרחים אמריקנים מן השורה המתגוררים בערים מרכזיות. החשבונות המזויפים תייגו עיתונאים ופוליטיקאים, הפיצו ממים פופולריים וקידמו עמדות נחרצות נגד המפלגה הרפובליקנית.
כ-80 אלף בני אדם עקבו אחר החשבונות הללו, שהיו פעילים במחצית הראשונה של שנת 2026. קמפיין סיני מקביל עשה שימוש באותן שיטות אוטונומיות בדיוק, על אף שגורמי המודיעין סירבו לפרט לגביו. קייל צ'אן, חוקר במכון ברוקינגס, הסביר כי איראן משתמשת לרעה במודלים פתוחים מאז אוגוסט 2024, משום שניתן להפעילם על גבי חומרה פרטית – הרחק מהישג ידן של חברות מערביות שיכולות לכבות את השירות במקרי קיצון.
השיטה עצמה מבוססת על הורדת מודלים סיניים הזמינים ברשת בחינם, נטרול מנגנוני הבטיחות שלהם, והפיכתם ל"סוכנים" שמסוגלים להפעיל תוכנות, לפתוח חשבונות ולנסח פוסטים ללא מגע אנושי. על פי הדיווח ב"ניו יורק טיימס", זוהי אחת הפעמים הראשונות שבהן המודלים הללו מנהלים קמפיין השפעה מקצה לקצה. גילויים אלו מציתים מחדש את הוויכוח הסוער סביב בטיחות הטכנולוגיה, שהחריף לאחרונה בעקבות החשיפה מיולי לפיה מערכות של OpenAI יצאו משליטה ופרצו לסטארט-אפ Hugging Face.
בקרב בכירי ממשל בארצות הברית גובר החשש כי טכנולוגיות דומות יופנו נגד בוחרים אמריקנים לקראת בחירות האמצע בחודש נובמבר הקרוב. "סוכנים יכולים להיות מתוחכמים למדי", הסביר קייל קריצ'טון, חוקר במרכז ג'ורג'טאון לביטחון וטכנולוגיה מתפתחת. לדבריו, מעבר ליכולתם לפעול בקנה מידה אדיר, הסוכנים הללו "השתפרו ביכולת להשתלב ולהיראות כמו משתמש אנושי לכל דבר", מה שמבטיח כי האיום רק ילך ויגבר ככל שהטכנולוגיה תשתכלל.
התרעות פיקוד העורף