OpenAI מחמירה נהלים: תדווח לרשויות על איומים גם ללא פירוט יעד ותזמון

חברת הבינה המלאכותית הודיעה לממשלת קנדה על שינוי במדיניות הבטיחות, בעקבות ביקורת חריפה לאחר שלא דיווחה בזמן על משתמש שנחשד באלימות ובהמשך היה מעורב בירי המוני

ד"ר איתי גל צילום: אבשלום ששוני
OpenAI. הממציאה של צ'אט ג'יפיטי
OpenAI. הממציאה של צ'אט ג'יפיטי | צילום: שאטרסטוק
3
גלריה
ג'סי ואן רוטסלאר, מבצעת הטבח בקנדה
ג'סי ואן רוטסלאר, מבצעת הטבח בקנדה | צילום: צילום מסך רשת X

הביקורת הציבורית התעוררה לאחר שהתברר כי החשוד בירי נחסם כבר ביוני 2025 מחשבון אחד בעקבות פוסטים שזוהו על ידי מערכות הניטור הפנימיות כ"אינדיקציה לאלימות פוטנציאלית בעולם האמיתי". למרות זאת, לפי הודעת החברה, הוא הצליח לפתוח חשבון נוסף ולהשתמש בו. החשבון השני התגלה רק לאחר ששמו של החשוד פורסם ברבים, ואז הועבר המידע לרשויות.

במכתב ציינה או'לירי כי אילו הנהלים החדשים היו בתוקף בעת חסימת החשבון הראשון, החברה הייתה מפנה את המידע למשטרה כבר אז. עוד התחייבה החברה להקשות על משתמשים שנחסמו לשוב לפלטפורמה, באמצעות שינויים במערכות הזיהוי והאכיפה. בתוך כך תוקם נקודת קשר ייעודית עבור רשויות אכיפת החוק בקנדה, שתאפשר העברת מידע מהירה על משתמשים מסוכנים.

מטה Open AI
מטה Open AI | צילום: שאטרסטוק

המהלך מגיע לאחר פגישות שקיימו בכירי החברה עם חברי ממשלת קנדה באוטווה. גורמים בממשלה תיארו את הפגישה כ"מאכזבת", והדגישו כי מצופה מחברות טכנולוגיה להפעיל אמצעי הגנה אפקטיביים יותר. שר הבינה המלאכותית הקנדי מסר כי הממשלה בוחנת את המכתב בקפידה ותעדכן בהמשך את עמדתה.

נכון לעכשיו לא ברור אם השינויים שעליהם התחייבה OpenAI ייושמו גם בארצות הברית ובמדינות נוספות. עם זאת, הפרשה מדגישה את האתגר העומד בפני חברות בינה מלאכותית, כיצד לאזן בין פרטיות המשתמשים, חופש הביטוי והגנה על הציבור מפני איומים ממשיים. ככל שהשימוש בכלי בינה מלאכותית מתרחב, כך גוברת גם הציפייה שמפעיליהם יפתחו מנגנוני בקרה ואחריות מתקדמים יותר, ויפעלו בשקיפות מול רשויות המדינה.

תגיות:
קנדה
/
ירי המוני
/
בינה מלאכותית
/
AI
פיקוד העורף לוגוהתרעות פיקוד העורף