באוגוסט הקרוב, יותר מחודש אחרי שאלופת העולם בכדורגל תוכתר במשחק הגמר של המונדיאל ברוסיה, תיפתח בקוריאה הדרומית אליפות עולם נוספת בכדורגל, אבל הפעם בלי נבחרות עם כוכבים נוצצים כמו כריסטיאנו רונלדו, לאו מסי או מוחמד סלאח המצרי.

בטורניר הבינלאומי הראשון מסוגו, שיימשך יומיים בלבד, ישתתפו קבוצות בנות חמישה שחקנים ממוחשבים דמויי גלילים, אשר יופעלו על ידי מערכות של בינה מלאכותית. במקביל יתקיימו גם התמודדויות על פרסי פרשן הכדורגל ושדר הקווים מבוססי בינה מלאכותית הטובים ביותר.

במכון המתקדם למדע ולטכנולוגיה (KAIST) של קוריאה, שנמצא בעיר טאג'ן, אוניברסיטה ציבורית שמתמחה בתחום הבינה המלאכותית ואשר ארגנה טורניר כדורגל לרובוטים זעירים כבר בשנת 1996, ציינו כי המטרה היא "לכנס חוקרים ומפתחים של טכנולוגיית בינה מלאכותית, מהאקדמיה ומהתעשייה, ולפתח פתרונות שמערבים בינה טכנולוגית עבור עולם שמתפתח במהירות".

אולם עד לפני ימים אחדים לא היה ברור אם הטורניר אכן יזכה להיענות בינלאומית, שכן מעל המוסד הדרום קוריאני ניצב איום של חרם אקדמי בינלאומי. הרקע לכך היה פתיחתו של מרכז מחקר חדש, "ביטחון לאומי ובינה מלאכותית", במסגרת האוניברסיטה, בשיתוף פעולה עם יצרנית הנשק ,Hanwha אשר משתייכת לאחד מהקונגלומרטים הגדולים ביותר בקוריאה הדרומית ומייצרת פצצות מצרר. לפי הדיווחים בתקשורת, המרכז החדש אמור "לפתח טכנולוגיות של בינה מלאכותית לצורך יישום בכלי נשק צבאיים", וההערכות היו כי מדובר גם ברובוטים קטלניים.

בחודש שעבר חתמו כ־60 מומחים מובילים בתחומי הרובוטיקה והבינה המלאכותית מ־30 מדינות ברחבי העולם על מכתב פתוח שגינה את הפיתוחים הצפויים. "מצער שמוסד יוקרתי כמו KAIST מבקש להאיץ את מרוץ החימוש עם פיתוח של כלי נשק אוטונומיים", נאמר במכתב שקרא להחרים באופן מוחלט את כל שיתופי הפעולה עם האוניברסיטה, עד שיתברר שלא מפותחים כלי נשק כאלה.

"אם יפותחו כלי נשק אוטונומיים, הם יהיו המהפכה השלישית בתחום הלוחמה", נאמר במכתב הגלוי. "הם יאפשרו מלחמה מהירה יותר ונרחבת יותר מאי־פעם. יש להם פוטנציאל להיות כלי נשק של טרור. עריצים וטרוריסטים יוכלו להשתמש בהם נגד אוכלוסיות חפות מפשע, להסיר מגבלות אתיות כלשהן. יהיה קשה לסגור את תיבת הפנדורה הזו אם היא תיפתח".

נשיא האוניברסיטה, פרופ' שין סונג־צ'ול, מיהר להבהיר כי "אין לנו כל כוונה להיות מעורבים בפיתוח של מערכות נשק אוטונומיות קטלניות ושל רובוטים מחסלים. כמוסד אקדמי, אנחנו מכבדים זכויות אדם וסטנדרטים אתיים", אמר. "אני מאשר ש־KAIST לא יבצע מחקר כלשהו שמנוגד לכבוד האנושי, כולל כלי נשק אוטונומיים שאינם נשלטים באופן משמעותי על ידי גורם אנושי". רק ביום שני האחרון היו יכולים שין וצוות האוניברסיטה לנשום לרווחה ומסרו כי איום החרם הוסר וכי חותמי המכתב קיבלו את כל ההבהרות שרצו.

בדרך למירוץ חימוש

לא הרחק מהקמפוס של KAIST נמצא מרכז המחקר והפיתוח של היצרנית הביטחונית DoDaam, שם כבר פותח כלי נשק שמתקרב לרמה שממנה חוששים החוקרים שחתמו על המכתב הגלוי. מדובר במערכת Super aEgis II, שבאתר החברה מוגדרת בתור "רובוט קרבי" וכבר הוצבה בגבול המפורז עם קוריאה הצפונית ונמכרה ללקוחות זרים, בהם קטאר ואיחוד האמירויות הערביות. זהו צריח אוטומטי שמסוגל לאתר מטרות במרחק של עד שלושה קילומטרים ולפתוח באש לעבר איומים אפשריים, אחרי שהוא משמיע את האזהרה "הסתובב לאחור או שנירה".

עם זאת, המערכת אינה מסוגלת לירות בלי שמפעיל אנושי מזין אותה בססמה שמשחררת את מתקן הירי. "זה לא היה אמור להיות ככה", הסביר המהנדס הבכיר, ג'ונגסוק פארק, בשיחה עם ה־BBC לפני שלוש שנים. "לגרסה המקורית שלנו הייתה מערכת ירי אוטומטית. אבל כל הלקוחות שלנו ביקשו יישום של אמצעי הגנה. זו לא הייתה בעיה טכנית עבורנו, אבל הם היו מודאגים שמא המערכת תירה בשוגג".

דגם זהה לצריח הדרום קוריאני, אשר מוכר בשם "מערכת רואה־יורה", פותח גם על ידי חברת רפאל ומוצב כיום לאורך הגבול עם רצועת עזה. כמו במקרה של "הרובוט הקרבי" הדרום קוריאני, גם המערכת הישראלית מצריכה אישור "אנושי" של המפעילות בחדר הבקרה לפני שהיא פותחת באש לעבר מטרות חשודות.

"מערכת רואה־יורה" היא דוגמה בולטת למקום המרכזי שמערכות רובוטיות בעלות מאפיינים אוטונומיים ממלאות כיום בסדר הכוחות של צה"ל. בין השאר אפשר להזכיר את יכולותיה של מערכת היירוט "כיפת ברזל", שמסוגלת לזהות אם רקטה צפויה לפגוע באזור מיושב או בשטח פתוח; את כלי הרכב הבלתי מאויש "אמסטף", שמאבטח יישובים ליד הגבול; ואת מערכת ההגנה האקטיבית "מעיל רוח", שמגינה על טנקים וכלי רכב משוריינים.

גם ברחבי העולם אפשר לראות כיום עוד ועוד מערכות אוטונומיות בתחום הצבאי. דוגמה אמריקאית בולטת היא הצוללת הבלתי המאוישת "סי האנטר", שנמצאת בשלבים ניסויים ואמורה לבצע משימות בים לאורך תקופות ממושכות בלי צורך באנשי צוות. משרד ההגנה הרוסי הודיע בשנה שעברה כי הוא מפתח טנק־רובוט בשם נרהטה (Nerehta), שיהיה חמוש במכונת ירייה או מטול רימונים, וכי הוא פועל לייצר גם כלים אוויריים אוטונומיים. "בינה מלאכותית היא העתיד לא רק עבור רוסיה, אלא עבור כל האנושות", אמר הנשיא ולדימיר פוטין בספטמבר האחרון. "מי שיוביל בתחום הבינה המלאכותית ישלוט בעולם".

מחקר של מכון המחקר לשלום בינלאומי בשטוקהולם מנובמבר שעבר, אשר בחן את מצב פיתוח מערכות הנשק האוטונומיות, ציין כי כל יצרניות הנשק הגדולות בעולם - ארצות הברית, בריטניה, רוסיה, צרפת, איטליה, יפן, ישראל, קוריאה הדרומית, גרמניה, הודו, שוודיה וסין - עובדות על פיתוח של מערכות רובוטיות צבאיות ללחימה או מערכות בלתי חמושות.

בסך הכל מצאו החוקרים 381 מערכות שונות מסוגים שונים: כלי נשק בלתי מאוישים, בעלי מידת אוטונומיה מסוימת במשימות קריטיות כמו זיהוי מטרות ותקיפתן; כלי נשק בלתי מאוישים שאינם אוטונומיים במשימות קריטיות, אבל אוטונומיים במשימות אחרות כדוגמת איסוף מודיעין; וכלי נשק בלתי מאוישים ובלתי חמושים, שעוסקים בעיקר במשימות מודיעין ומעקב ובמשימות לוגיסטיות.

"המסקנה העיקרית מהמחקר היא שאוטונומיה היא כבר המציאות בתחום של פיתוח מערכות נשק ושימוש בהן", נכתב בדוח. "הערה חשובה שעולה מרמת המדיניות היא ש(עדיין) אין 'מרוץ חימוש' מוצהר בתחום האוטונומיה".

החוקרים ציינו כי ארצות הברית היא המדינה היחידה שהגדירה באופן רשמי כי קידום האוטונומיה מהווה מרכיב מרכזי בשיקולי היכולות האסטרטגיות שלה בעתיד, אולם כל אחת מעשר המדינות היצרניות המובילות בעולם "ימשיכו לתרום לעיצוב עתיד הלוחמה".

"מרבית המדינות עדיין בשלבים מוקדמים של אימוץ טכנולוגיות רובוטיות", הבהירו במכון המחקר. "על כן השקפותיהן לגבי אוטונומיה בדוקטרינות הצבאיות צפויות להתפתח ולהתבגר, בעת שהן משלבות יותר ויותר טכנולוגיות רובוטיות בארסנלים שלהן".

האם יהיה חרם?

השבוע התקיים במטה האו"ם בז'נווה המפגש השני של מומחים ממשלתיים מעשרות מדינות, כחלק מהאמנה לכלי נשק קונבנציונליים מסוימים (CCW) וזאת במטרה לגבש כללים מוסדרים ברמה הבינלאומית אל מול הפיתוח של מערכות לחימה אוטונומיות קטלניות (LAWS).

"דמיינו את ההלם והאימה כאשר נחילים של מערכות אוטונומיות אינטליגנטיות לומדים את דרכם כדי לחדור דרך קווי ההגנה של האויב", אמר הדיפלומט ההודי אמנדיפ גיל שניהל את הכינוס והבהיר מהי השאלה המרכזית שעמדה בפני הנוכחים: "מה ההשלכות האפשריות בנוגע לעקרונות ההומניטריים המסורתיים ולביטחון הבינלאומי?".

בנוסף דנו המומחים באפיון של המערכות, על מנת ליצור הבנה משותפת של המאפיינים שלהן. הם בחנו את השילוב של המרכיב האנושי במערכות אוטונומיות קטלניות, וסקרו את היישומים הצבאיים האפשריים של הטכנולוגיות האוטונומיות.

גיל הודה כי "לא קל להשיג קונצנזוס לגבי ההשפעה החברתית של טכנולוגיות פיתוח אפילו בתוך גבולותיה של מדינה, כפי שנושאים כמו ההשפעה של פייסבוק על בחירות מזכירים לנו מדי יום. לכן דמיינו מה האתגר כשיש 125 מדינות בעלות אינטרסים מנוגדים, שדנות בסוגיה שאותה עדיין מנסים להגדיר מומחי ביטחון, עורכי דין, מומחי טכנולוגיה ודיפלומטים".

דוגמה לכך היא נייר העבודה מטעם הנציגים האמריקאים, שקיבל את הכותרת "שימוש בטכנולוגיות מתפתחות על מנת לצמצם קורבנות אזרחיים שמהווים אתגר הומניטרי חשוב". לפי האמריקאים, טכנולוגיות כמו בינה מלאכותית או למידת מכונה בכלי נשק קטלניים דווקא יכולות להועיל בתחום ההומניטרי, מאחר שהן מאפשרות פגיעה מדויקת יותר בכוחות חמושים ועל כן "מצמצמות סיכונים של פגיעה באזרחים ובמטרות אזרחיות".

"במקום לנסות ליצור סטיגמה או לאסור באופן מוחלט על טכנולוגיות מתפתחות כאלה בתחום של כלי נשק אוטונומיים קטלניים, מדינות צריכות לעודד חדשנות כזו שמדגישה יותר את היעדים והמטרות של האמנה לכלי נשק קונבנציונליים מסוימים", הדגיש נייר העמדה.

אולם מול העמדה האמריקאית, ישנן לפחות 23 מדינות, בהן מצרים, ארגנטינה וגם הרשות הפלסטינית, שקראו לחרם מוחלט על מערכות הלחימה השנויות במחלוקת. במקביל גדל מספר המומחים והארגונים שפועלים להגביל או לאסור לחלוטין את השימוש בכלי נשק אוטונומיים קטלניים, כפי שבא לידי ביטוי גם בניסיון החרם נגד KAIST.

הגוף הבולט ביותר במאבק הוא "הקמפיין לעצירת רובוטים מחסלים", שהוקם לפני חמש שנים וגם נטל חלק בוועידה בז'נווה השבוע. הקמפיין כולל שורה של ארגונים בלתי ממשלתיים, בהם "משמר זכויות האדם", וגם שואף לאסור באופן מוחלט על שימוש בכלי נשק אוטונומיים. בשנה שעברה זכה הקמפיין לתמיכה עם מכתב פתוח לאו"ם, שעליו חתמו עשרות אנשי עסקים בולטים, בהם היזם המיליארדר אילון מאסק, שידוע כמי שמזהיר שוב ושוב כי בינה מלאכותית עלולה לאיים על קיום האנושות.

"אלה יהיו כלי נשק להשמדה המונית", הזהיר טובי וולש, פרופסור לבינה מלאכותית מאוניברסיטת ניו סאות' ווילס באוסטרליה, שהוביל את המכתב הגלוי נגד מכון המחקר הדרום קוריאני, בשיחה שקיים השבוע עם ה"גרדיאן". "מתכנת אחד ומדפסת תלת ממד יכולים לעשות מה שקודם הצריך צבא של אנשים. הם יהפכו מלחמה לתעשייתית, ישנו את המהירות והתדירות שבהן אנחנו נלחמים. הם יוכלו להרוג 24 שעות ביממה ושבעה ימים בשבוע ויהרגו מהר יותר מאשר בני אנוש יכולים להגן על עצמם".v

"מתכנת ומדפסת יהרגו מהר יותר מאשר אנשים יוכלו להגן על עצמם"

כלי הנשק העתידיים יתבססו על בינה מלאכותית ויאפשרו מלחמה מהירה מתמיד. מומחים מזהירים שללא שליטה אנושית יהיה קשה לשמור על העקרונות ההומניטריים ועל הביטחון הבינלאומי