ההתפשטות המהירה של הבינה המלאכותית ברפואה התעצמה מאז כניסת כלי בינה יוצרת לשימוש ציבורי רחב. אבל בעולם הרפואי השימושים קדמו לכך: מערכות למידת מכונה כבר מסייעות בפענוח צילומי סי-טי ורנטגן, בזיהוי ממצאים פתולוגיים, בהערכת סיכונים לפני פעולות רפואיות, בתיעדוף מטופלים ובהצפת המלצות בתוך התיק הרפואי הממוחשב.
לפי נייר העמדה, נכון למאי 2024 אישר מנהל המזון והתרופות האמריקאי 882 מכשירים רפואיים המשתמשים בבינה מלאכותית. התחום הגדול ביותר הוא רדיולוגיה, עם 671 מכשירים, שהם 76% מכלל המכשירים שאושרו. אחריו מגיעים מכשירים בתחום מחלות הלב וכלי הדם עם 10%, נוירולוגיה עם 3%, המטולוגיה עם 1.9%, גסטרואנטרולוגיה ואורולוגיה עם 1.5%, והרדמה עם 1%.
המשמעות היא שהבדיקה החשודה עולה לראש התור, והרופא מקבל סימון של האזור החשוד. זה לא מחליף את הפענוח הרפואי, אבל מוסיף שכבת בטיחות חשובה במערכת שבה רדיולוגים נדרשים לעבור על אלפי תמונות בזמן קצר, לעיתים בתורנויות עומס.
דוגמה אחרת היא מערכת Rounds, שמנסה לטפל באחד ממוקדי השחיקה המרכזיים של הרופאים: ההקלדה. המערכת מקליטה את הביקור הרפואי, מתמללת את השיחה, ומייצרת ממנה מסמך ביקור או סיכום רפואי מלא. מבחינת הרופא, מדובר בשינוי גדול: במקום להסיט את המבט אל המסך לאורך חלק ניכר מהמפגש, הוא יכול להסתכל על המטופל, להקשיב, לשאול, לבדוק, ובסוף לעבור על הסיכום, לתקן אותו ולחתום עליו.
מבחינת ניהול סיכונים, מדובר גם באתגר: הקלטת שיחה רפואית מחייבת שמירה קפדנית על פרטיות, אבטחת מידע, הבהרה למטופל, ובקרה רפואית על כך שהסיכום שנוצר משקף במדויק את מה שנאמר ונעשה.
שירותי בריאות כללית הטמיעה מערכת בינה מלאכותית בשם AI-PRO, המבוססת על פלטפורמת C-Pi, שמסייעת לרופאי משפחה ברפואה יוזמת ומותאמת אישית. המערכת סורקת מדי לילה מידע רפואי מתיקים ממוחשבים, מצליבה אותו עם הנחיות קליניות ומאגרי ידע, ומציפה לרופא המלצות ומטופלים בסיכון.
סיכון שני הוא תחושת ביטחון כוזבת. כשמערכת ממוחשבת נותנת תשובה מהירה, מנוסחת היטב ובטוחה בעצמה, קל להאמין לה. בסביבה רפואית עמוסה, שבה רופאים עובדים תחת לחץ, מחסור בזמן ושחיקה, הפיתוי להסתמך על תשובת המחשב עלול להיות גדול.
ההנחיות מזהירות מפני התמכרות לשימוש בבינה מלאכותית ומפני מצב שבו הרופא מפסיק "לראות את המטופל" ומתחיל לראות רק את ההמלצה שעל המסך. ברפואה, ההקשר האנושי חשוב לא פחות מהנתונים: מראה המטופל, שפת הגוף, הסיפור המשפחתי, חרדה, כאב, אמון, תרבות, היענות לטיפול וכל פרט קטן שעלול לא להופיע באלגוריתם.
סיכון נוסף נוגע ל"הזיות" של מערכות בינה מלאכותית: תשובות שנראות אמינות אבל לא נכונות. בעולם הרפואה, טעות כזו יכולה להתבטא בהמלצה תרופתית לא מתאימה, בפרשנות שגויה של תוצאת בדיקה או בהתעלמות מאבחנה מסוכנת. לכן נייר העמדה דורש מהארגונים להגדיר מראש באילו מצבים מותר להשתמש במערכת, באילו מצבים לא, מי מוסמך להפעיל אותה, ומהי רמת הבקרה האנושית הנדרשת.
גם הסוגיה המשפטית עדיין לא מוסדרת במלואה. מי אחראי אם רופא פעל לפי המלצת מערכת בינה מלאכותית שהתבררה כשגויה? האם יש צורך לקבל הסכמה מדעת מהמטופל בכל שימוש כזה? האם המטופל צריך לדעת שתשובה שקיבל מהרופא התבססה על כלי ממוחשב? נייר העמדה מצטט את יו"ר הלשכה לאתיקה של ההסתדרות הרפואית, שאמר בדיון בכנסת: "על הרופא לגלות שהתשובה למטופל מתבססת על בינה מלאכותית". זו אמירה משמעותית, משום שהיא מחברת את הבינה המלאכותית לא רק לשאלת הדיוק, אלא גם לשאלת האמון בין רופא למטופל.
הדרכה כזו לא יכולה להיות מצגת כללית על בינה מלאכותית. היא צריכה להיות מעשית: איך מפעילים את המערכת, מה המשמעות של כל התרעה, אילו נתונים נכנסים אליה, מהן מגבלותיה, מתי חובה להתייעץ עם מומחה, ואיך מתעדים החלטה שהתקבלה בניגוד להמלצת המערכת. ההנחיות מדגישות גם את הצורך בניטור רציף, משום שמודלים של בינה מלאכותית יכולים להשתנות עם הזמן. ביצועים טובים ביום ההשקה לא מבטיחים ביצועים טובים שנה אחר כך, במיוחד כשאוכלוסיית המטופלים משתנה, נהלי הטיפול מתעדכנים או נתוני המערכת מתרחבים.
נייר העמדה מתייחס גם לצד השני של המטבע: הסיכון שבאי-הטמעה. מערכת שמסוגלת לזהות הידרדרות רפואית מוקדמת, לאתר טיפול חסר או להתריע על ממצא מסכן חיים, עשויה למנוע נזק. לפי המסמך, מערכות ניטור בזמן אמת שכבר שולבו בתיקים רפואיים ממוחשבים זיהו יותר מפי 10 מקרים של אירועים חריגים בזמן אמת, והיו מסוגלות לחזות הידרדרות רפואית עד 72 שעות לפני התרחשותה. כלומר, השאלה כבר לא מתמצה בפחד מהטכנולוגיה, אלא בניהול אחראי שלה.
מחברי נייר העמדה סיכמו כי שבינה מלאכותית יכולה להיות שכבת בטיחות, לא סמכות רפואית עצמאית. היא יכולה לקצר זמן לפענוח, להחזיר לרופא זמן שיחה עם המטופל, להזכיר בדיקות שנשכחו, לזהות סיכון, להתריע על החמרה ולשפר תהליכים. אבל כל אלה מחייבים גבולות ברורים, שקיפות, הסכמה מתאימה, אבטחת מידע, הכשרת צוותים, תיעוד ובקרה מתמשכת. הרופא נשאר מי שמקשיב, בודק, מחליט, מסביר ונושא באחריות המקצועית.
התרעות פיקוד העורף