בשנים האחרונות החלה להתפתח טכנולוגיה המאפשרת להעביר חלק מההחלטות היומיומיות שלנו - לידי הבינה מלאכותית, שתעשה לנו את החיים קלים יותר. כך, המערכת תקבל החלטות באופן אוטומטי, בהתאם לנדרש בסביבת המגורים, העבודה והפנאי שלנו. טכנולוגיה זו מורכבת מאוסף נוסחאות מתמטיות וסטטיסטיות ומחייבות תהליך רצוף ותמידי של הזנת נתונים, מספר רב של מעבדים ותשתיות יקרות.
אבל, בסופו של דבר, התפתחה האפשרות לבצע חישוב מהיר מאד של אפשרויות, דבר שיוצר תחושה של החלטות המתקבלות אוטונומית על ידי הבינה המלאכותית. בזכות יכולת זו, התחלנו להבין לאחרונה שהבינה המלאכותית מסוגלת לבצע תהליכים מסובכים, שעד כה היה נדמה שלא ניתן לבצע במהירות ובדיוק שכזה.
שינויים אלו כבר עכשיו משפיעים על ההתנהגות החברתית: מקצועות ישתנו, תהליכי עבודה, דרכי תקשורת, מסחר ותעשייה יעברו טרנספורמציה דיגיטלית משמעותית. כיום, יותר ויותר ארגונים פונים לעזרת הבינה המלאכותית. על פי הבנק העולמי, התפתחויות אלו מצופות לקדם את איכות החיים של המין האנושי בצורה מרשימה ומיידית, ובמקביל גם לחפות על הירידה בילודה, ובכמות הידיים העובדות ברחבי העולם כולו. עם זאת, הבנק העולמי פרסם גם כי כניסת הבינה המלאכותית תגדיל את הפערים החברתיים.
אנחנו כבר מבינים שהגדלת פערים חברתיים היא הבעיה הפחותה מאלו המתגלות לאחר שימוש אינטנסיבי בבינה המלאכותית. במהלך פיתוח אלגוריתמים מורכבים הנמצאים בבסיס הבינה המלאכותית החדשה נתקלו החוקרים בצורך להתמודד עם דילמות מוסריות בעלות פוטנציאל השפעה דרמטית על חיי היום יום שלנו, ואפילו לעלות בחיי אדם. המשמעות היא, שאותן מערכות היודעות לטייב כל כך את חיינו, עלולות במקביל לתרום ליצירת פייק ניוז ברשתות החברתיות, לשינוי מבנה התעסוקה העתידי, ומי יודע, אולי בעתיד הבינה המלאכותית עלולה להשפיע על ניהול ממשלות, מסעות בחירות, החלטות של הנהלות התאגידים ואפילו שינוי בחוק זכויות הפרט.
הוועדה הכלכלית והחברתית האירופית (EESC) טוענת שבינה מלאכותית עלולה להוות סיכון ממשי להמשך קיומו של המין האנושי. לטענתם, התפתחות החשיבה העצמאית עם עליית כוחם של הרובוטים התעשייתיים והיכולת של השילוב ביניהם להתמודד עם המציאות הטבעית טוב יותר מבני אדם, עלולה להוות אבן דרך להמשך האבולוציה האנושית. עד כדי כך.
המסקנה העיקרית היא - דרושה רגולציה לתחום
אפשרות אחת היא לחייב את המפתחים להתמקד רק בבינה מלאכותית "ספציפית", כזו שאינה מנסה להחליף את החשיבה האנושית, אלא לטייב פעילויות ממוקדות. לדוגמה - יצירת רובוטים תעשייתיים ורחפנים העוזרים להעביר ציוד רפואי ממקום למקום. אלא, אלא שהבינה המלאכותית התפתחה כל כך מהר, שהאיחוד האירופי הציג מסמך מקיף לכללי הרגולציה עבור מערכות בינה מלאכותית. מסמך זה עמד על הצורך לטפל בסיכונים חברתיים ואישיים הקשורים לשימושים ב-AI, כאשר בין היתר הומלץ לאסור על שימוש בו לצורך למטרות מעקב או ניטור מידע פרטי ללא הבחנה ואישור, וגם לאסור על דירוג אמינות או אשראי חברתי של אזרח, אלא באישור אדם.
עקרון Human in the loop יחייב מעקב או אישור אנושיים על כל פעילות מסכנת חיים, או בעלת השפעה יסודית על מרקם החיים האנושי. במקביל, החלה רגולציה שתפקידה לנסח פיקוח על מערכות AI אוטונומיות, הפועלות ללא מעקב רציף כמו מכוניות אוטונומיות. לעניין זה, המסמך ממליץ על חיוב בהערכת סיכונים למערכות AI מראש, לפני שהן מוכנסות לשימוש וציון דרכי ההתמודדות, ההגנה והעצירה האקטיבית של פעילותן.
האם התאגידים הגדולים יסכימו להכניס את הרגולציה לתהליך הפיתוח שלהם, גם אם הם יודעים כי הדבר יפגע ביכולת התחרותית שלהם? אמזון, גוגל, פייסבוק, אפל ומיקרוסופט, המפתחות מוצרים בתחום הבינה המלאכותית בראייה מסחרית, אינן מתכוונות כרגע לספק בקרה או גישה לפיתוחים החדשים שלהם בתחום הבינה המלאכותית. ראו הוזהרתם!
הכותב הוא ראש התוכנית למערכות מידע B.Sc, האקדמית רמת גן, יו"ר המרכז לחדשנות בלשכה לטכנולוגיות מידע בישראל, מחבר הספר "אדם במעגל טכנולוגי"