התרחיש מתחיל במעבדה שנראית לגיטימית לחלוטין: צוות עובדים הכולל מיקרוביולוגים ווירולוגים, חברה צעירה המחזיקה ברישיונות הנדרשים לפעילותה ומתחם מחקר מבודד. אלא שמאחורי הפעילות המדעית מסתתרת קבוצת מתנגדי משטר בשם Kill-9, שמטרתה לפתח גרסה קטלנית במיוחד של נגיף אנטרו D68, מחולל מחלה נשימתית שעלול לגרום במקרים מסוימים גם לסיבוכים חמורים.
התוצאה בתרחיש היא זן מהונדס של הנגיף, שעלול לפגוע גם במערכת העצבים המרכזית ולגרום לשיתוק ולכשל נשימתי. בהמשך מתגלים מקרי הדבקה במספר ערים, והמחלה מתפשטת במהירות ל-13 מדינות. בתי החולים מתקשים להתמודד עם העומס, ומספר החולים והמתים מזנק. בתוך שבועות נרשמים יותר מ-360 אלף מקרי הדבקה וכמעט 10,000 מקרי מוות, וארגון הבריאות העולמי מכריז על מצב חירום של מגפה עולמית. לפי התרחיש, קצת יותר משנה לאחר גילוי ההתפרצות, יותר מ-850 מיליון בני אדם נדבקים וכ-60 מיליון מתים.
תרחיש בדיוני, איום מציאותי
חשוב להדגיש: מדובר בתרחיש בדיוני ולא במגפה שהתרחשה בפועל או בנגיף שפיתחו מדענים. אולם מאחורי הסיפור עומד תרגיל ביטחוני אמיתי שנועד לבחון כיצד ניתן יהיה לנצל את יכולות הבינה המלאכותית לפיתוח נשק ביולוגי.
ממצאי התרגיל הוצגו במסגרת ועידת הביטחון במינכן, ביוזמת הארגון Nuclear Threat Initiative (NTI), העוסק בצמצום איומים גרעיניים, ביולוגיים ואחרים. המדענים שהשתתפו בו קבעו כי התרחיש מייצג איום מציאותי וסביר לנוכח היכולות הקיימות והיכולות הצפויות של מערכות הבינה המלאכותית בעתיד הקרוב. במסגרת התרגיל נמנעו החוקרים מלפרט דרכים להפצת הפתוגן, מחשש שמידע כזה ינוצל לרעה. עם זאת, עצם האפשרות שגורמים עוינים יוכלו להיעזר במערכות AI כדי להתקדם במחקר ביולוגי מעוררת דאגה בקרב מומחי ביטחון.
האזהרות מתוך תעשיית הבינה המלאכותית
האזהרות אינן מגיעות רק ממומחים חיצוניים. גם אנשים שעבדו בחברות המובילות בתחום הבינה המלאכותית מביעים חשש מהכיוון שאליו מתקדמת הטכנולוגיה.
לא רק נשק ביולוגי: גם המלחמות משתנות
האיום אינו מוגבל למעבדות ולפיתוח פתוגנים. הבינה המלאכותית כבר משנה את האופן שבו צבאות אוספים מודיעין, מזהים מטרות ומקבלים החלטות בשדה הקרב. באוקראינה נעשה שימוש הולך וגובר בכטב"מים ובמערכות סיוע מבוססות AI, כאשר גם רוסיה וגם אוקראינה משלבות טכנולוגיות מתקדמות במערכות הלחימה שלהן. הכתבה מציינת גם את השימוש שעשתה ישראל בכלי בינה מלאכותית לסיוע בזיהוי מטרות ברצועת עזה.
כך, בעוד העולם ממשיך ליהנות מההתקדמות המהירה של הבינה המלאכותית בתחומי הרפואה, המדע והטכנולוגיה, מומחי ביטחון מזהירים כי אותן יכולות עצמן עלולות להפוך לכלי נשק מסוכן במיוחד בידיים הלא נכונות.