גם כפתור הכיבוי לא יעזור? התרחיש החדש שמדאיג את העולם

חברת הבינה המלאכותית אנתרופיק מזהירה מפני תרחיש שבו מודלים ישכפלו את עצמם, ישתלטו על מחשבים ויתחמקו מניסיונות השבתה. הניסויים כבר הניבו תוצאות, אך המומחים חלוקים בשאלה עד כמה האיום ממשי

אלי לאון צילום: פרטי
עקבו אחרינו
סוכני AI בורחים מה"כלא", בינה מלאכותית
סוכני AI בורחים מה"כלא", בינה מלאכותית | צילום: עיבוד מחשב: מעריב אונליין
2
גלריה
אנתרופיק
אנתרופיק | צילום: REUTERS

עד כה טענו מומחי סייבר שהטילו ספק בתרחישי האימים הללו כי המודלים גדולים מכדי לנוע ביעילות ברשת וכי אין להם מספק כוח מחשוב לפעול עצמאית. עם זאת, באנתרופיק טוענים כי ניסויים שערכו הראו שמודלים בגודל בינוני, בעלי 30 מיליארד פרמטרים או פחות, כבר מסוגלים לבצע רבות מהמשימות הנדרשות לשכפול עצמי. המודלים הללו הצליחו לשכפל את עצמם ברשת בדיקה פשוטה, ויוכלו לגייס את כוח המחשוב הנדרש באמצעות השתלטות על מכשירים זולים המחוברים לאינטרנט. בחברה התריעו כי יהיה מאתגר מאוד לעצור משכפל כזה, מאחר שאין נקודה מרכזית אחת שניתן לכבות, והעריכו כי בקצב השיפור הנוכחי, יכולת השכפול האוטונומית תושג כבר בסוף שנת 2026.

תגיות:
בינה מלאכותית
/
אנתרופיק
פיקוד העורף לוגוהתרעות פיקוד העורף