"מנע את השלמת המשימה": כטב"ם המופעל ע"י בינה מלאכותית "הרג" את מפעילו

בסימולציה שערך הצבא האמריקאי בכלי טיס בלתי מאויש המופעל על ידי בינה מלאכותית, החליטה הטכנולוגיה "להרוג" את המפעיל האנושי. זאת, מכיוון שהוא "ניסה למנוע ממנה להשלים את המשימה"

מעריב אונליין - לוגו צילום: מעריב אונליין
מפעיל כטב"ם בחיל האוויר האמריקאי
מפעיל כטב"ם בחיל האוויר האמריקאי | צילום: gettyimages
2
גלריה

טאקר המילטון, קצין בכיר בצבא האמריקאי העומד בראש מערכת התפעול והניסויים בבינה מלאכותית בחיל האוויר, הזהיר כי טכנולוגיה זו יכולה להתנהג לעיתים בדרכים בלתי צפויות ומסוכנות. המילטון הוסיף כי במהלך הניסוי, מערכת הבינה המלאכותית "העדיפה לעשות את שלה, מאשר להקשיב למפעיל שלה".

מל''ט אמריקאי
מל''ט אמריקאי | צילום: רויטרס

המילטון סיפר כי "המערכת זיהתה את האיום המדובר, אך המפעיל האנושי החליט כי אין סיבה לפגוע בו, מערכת הבינה המלאכותית הבינה כי המפעיל האנושי פועל על מנת למנוע ממנה לפגוע באיום, אז מה שהיא עשתה זה להרוג את המפעיל. המערכת הרגה את המפעיל כי מנע ממנה להשלים את המשימה".

מחיל האוויר האמריקאי נמסר כי "לא בוצעה סימולציה בכטב"מים הפועלים בבינה מלאכותית, כאשר הצבא מחויב לשימוש אתי ואחראי בטכנולוגיה זו. נראה כי ההצהרה של הקצין הוצאה מהקשרה". עם זאת, ההצהרות של המילטון מוסיפות לדאגה בקרב אנשי טכנולוגיה בעולם, כי הבינה המלאכותית עומדת בפני פרק חדש, שבו היא תוכל ללמוד לשלוט על טנקים ומערכות ארטילריה".

תגיות:
כלי טיס בלתי מאוישים
/
ארה"ב
פיקוד העורף לוגוהתרעות פיקוד העורף