חשש בעמק הסיליקון: חברת הצללים של אפל ואמזון באזהרה בהולה

חברת אנתרופיק מגבילה את השימוש במודל החדש לחברות ענק בלבד, במטרה לזהות חולשות ולבלום מתקפות סייבר מתקדמות. במקביל, היא מזהירה מפני הסכנות: סוכן AI אחד עשוי לעקוף בקלות את יכולות ההגנה הקיימות

לוגו מעריב צילום: מעריב אונליין
אנתרופיק
אנתרופיק | צילום: REUTERS/Dado Ruvic/Illustration/File Photo
2
גלריה

בין החברות שיקבלו גישה למודל, בשם Mythos (או "Claude Mythos Preview"), נמנות Amazon, Apple, Cisco, Google, JPMorgan Chase ו-Microsoft. המודל ישמש לאיתור חולשות בתוכנה ולבדיקת יעילות של טכניקות פריצה על מערכות קיימות.

מודל עוצמתי - אך מסוכן לפרסום

לפי החברה, המודל אינו מוכן להשקה לציבור הרחב בשל הסיכונים לשימוש לרעה מצד פושעי סייבר וסוכנויות ריגול - חשש שמטריד גם גורמים בוושינגטון ובעמק הסיליקון. מומחים מציינים כי היכולת של סוכני AI לסרוק חולשות בקצב ובהיקף העולים בהרבה על יכולות אנושיות מהווה שינוי דרמטי בתחום הסייבר.

אנתרופיק עדכנה גורמים בכירים בממשל האמריקאי לגבי יכולות ההתקפה וההגנה של המודל, והציעה סיוע בבדיקות ובהערכה של הטכנולוגיה. לצד ענקיות הטכנולוגיה, גם חברות כמו Broadcom, Nvidia, Linux Foundation וכן חברות סייבר כמו CrowdStrike ו-Palo Alto Networks יקבלו גישה למערכת.

המטרה המרכזית היא לאתר חולשות קריטיות בדפדפנים ובמערכות הפעלה נפוצות עוד לפני שהן נחשפות לציבור, ובכך לצמצם את היתרון של התוקפים.

האקר, מתקפת סייבר
האקר, מתקפת סייבר | צילום: REUTERS/Kacper Pempel

אלפי חולשות בזמן קצר

לטענת החברה, המודל כבר הצליח לאתר "אלפי" חולשות תוכנה שלא היו מוכרות קודם לכן - בקצב מהיר בהרבה מזה של חוקרי אבטחה אנושיים, אם כי נתון זה טרם אומת באופן עצמאי. חולשות מסוג זה נחשבות לנכס יקר ערך עבור האקרים וסוכנויות מודיעין, שכן הן מאפשרות חדירות חשאיות למערכות.

לפי בכירי החברה, אם מודלים כאלה ימשיכו להשתפר - כפי שמצופה - העולם יצטרך להיערך במהירות למציאות חדשה. דליפה שפורסמה לאחרונה אף טענה כי המודל "מקדים בהרבה" מודלים אחרים בתחום הסייבר, ומרמז על גל מתקרב של מערכות המסוגלות לנצל חולשות בקצב שיעקוף את יכולות ההגנה.

לצד זאת, מומחים מעריכים כי חלק מהחששות מוגזמים, אך מזהירים כי ללא שינוי מגמה - הפער בין תוקפים למגנים בעידן הבינה המלאכותית עלול להתרחב עוד יותר.

תגיות:
בינה מלאכותית
/
מתקפת סייבר
פיקוד העורף לוגוהתרעות פיקוד העורף