60 מיליון מתים בתרחיש האימה: הסכנה החדשה של הבינה המלאכותית

תרגיל ביטחוני של מדענים מציג תרחיש שבו ארגון קטן נעזר ב-AI לפיתוח נשק ביולוגי שעלול לגרום למגפה עולמית. מומחים מזהירים גם מפני התפתחות כלי נשק אוטונומיים ללא פיקוח אנושי

לוגו מעריב צילום: מעריב אונליין
עקבו אחרינו
בינה מלאכותית, יביא לסוף האנושות?
בינה מלאכותית, יביא לסוף האנושות? | צילום: AI
6
גלריה

התרחיש מתחיל במעבדה שנראית לגיטימית לחלוטין: צוות עובדים הכולל מיקרוביולוגים ווירולוגים, חברה צעירה המחזיקה ברישיונות הנדרשים לפעילותה ומתחם מחקר מבודד. אלא שמאחורי הפעילות המדעית מסתתרת קבוצת מתנגדי משטר בשם Kill-9, שמטרתה לפתח גרסה קטלנית במיוחד של נגיף אנטרו D68, מחולל מחלה נשימתית שעלול לגרום במקרים מסוימים גם לסיבוכים חמורים.

בינה מלאכותית ונשק ביולוגי
בינה מלאכותית ונשק ביולוגי | צילום: AI

התוצאה בתרחיש היא זן מהונדס של הנגיף, שעלול לפגוע גם במערכת העצבים המרכזית ולגרום לשיתוק ולכשל נשימתי. בהמשך מתגלים מקרי הדבקה במספר ערים, והמחלה מתפשטת במהירות ל-13 מדינות. בתי החולים מתקשים להתמודד עם העומס, ומספר החולים והמתים מזנק. בתוך שבועות נרשמים יותר מ-360 אלף מקרי הדבקה וכמעט 10,000 מקרי מוות, וארגון הבריאות העולמי מכריז על מצב חירום של מגפה עולמית. לפי התרחיש, קצת יותר משנה לאחר גילוי ההתפרצות, יותר מ-850 מיליון בני אדם נדבקים וכ-60 מיליון מתים.

מגפה
מגפה | צילום: שאטרסטוק

תרחיש בדיוני, איום מציאותי

חשוב להדגיש: מדובר בתרחיש בדיוני ולא במגפה שהתרחשה בפועל או בנגיף שפיתחו מדענים. אולם מאחורי הסיפור עומד תרגיל ביטחוני אמיתי שנועד לבחון כיצד ניתן יהיה לנצל את יכולות הבינה המלאכותית לפיתוח נשק ביולוגי.

ממצאי התרגיל הוצגו במסגרת ועידת הביטחון במינכן, ביוזמת הארגון Nuclear Threat Initiative (NTI), העוסק בצמצום איומים גרעיניים, ביולוגיים ואחרים. המדענים שהשתתפו בו קבעו כי התרחיש מייצג איום מציאותי וסביר לנוכח היכולות הקיימות והיכולות הצפויות של מערכות הבינה המלאכותית בעתיד הקרוב. במסגרת התרגיל נמנעו החוקרים מלפרט דרכים להפצת הפתוגן, מחשש שמידע כזה ינוצל לרעה. עם זאת, עצם האפשרות שגורמים עוינים יוכלו להיעזר במערכות AI כדי להתקדם במחקר ביולוגי מעוררת דאגה בקרב מומחי ביטחון.

פיקוח על הגרעין של איראן
פיקוח על הגרעין של איראן | צילום: ללא

האזהרות מתוך תעשיית הבינה המלאכותית

האזהרות אינן מגיעות רק ממומחים חיצוניים. גם אנשים שעבדו בחברות המובילות בתחום הבינה המלאכותית מביעים חשש מהכיוון שאליו מתקדמת הטכנולוגיה.

אנתרופיק
אנתרופיק | צילום: REUTERS

לא רק נשק ביולוגי: גם המלחמות משתנות

האיום אינו מוגבל למעבדות ולפיתוח פתוגנים. הבינה המלאכותית כבר משנה את האופן שבו צבאות אוספים מודיעין, מזהים מטרות ומקבלים החלטות בשדה הקרב. באוקראינה נעשה שימוש הולך וגובר בכטב"מים ובמערכות סיוע מבוססות AI, כאשר גם רוסיה וגם אוקראינה משלבות טכנולוגיות מתקדמות במערכות הלחימה שלהן. הכתבה מציינת גם את השימוש שעשתה ישראל בכלי בינה מלאכותית לסיוע בזיהוי מטרות ברצועת עזה.

כטב''ם
כטב''ם | צילום: אטיס תעופה

כך, בעוד העולם ממשיך ליהנות מההתקדמות המהירה של הבינה המלאכותית בתחומי הרפואה, המדע והטכנולוגיה, מומחי ביטחון מזהירים כי אותן יכולות עצמן עלולות להפוך לכלי נשק מסוכן במיוחד בידיים הלא נכונות.

תגיות:
נשק גרעיני
/
נשק ביולוגי
/
בינה מלאכותית
/
כטב"ם