אחד העקרונות המרכזיים הוא שמירה על מעמדו של הרופא כמקבל ההחלטות הסופי. לפי ההנחיות, גם כאשר נעשה שימוש במערכת מתקדמת, האחריות המקצועית לאבחנה או לטיפול נותרת בידי הרופא בלבד. אין להסתמך על המלצות אלגוריתמיות באופן עיוור, והרופא נדרש להפעיל שיקול דעת ביקורתי ולבחון האם ההמלצה מתאימה למטופל הספציפי.
במסמך מודגש עקרון "האדם במערכת", לפיו כל החלטה רפואית בסיוע בינה מלאכותית חייבת להיות נתונה לפיקוח אנושי. המשמעות היא שמערכות אלה נועדו לתמוך בהחלטות, לא להחליף אותן. גישה זו נועדה למנוע מצב שבו האחריות מועברת לטכנולוגיה, תוך פגיעה באמון שבין רופא למטופל.
נושא מרכזי נוסף הוא שקיפות. ההנחיות קובעות שעל הרופא ליידע את המטופל כאשר נעשה שימוש בבינה מלאכותית באופן המשפיע על אבחנה או טיפול. במקרים אלה, נדרש להסביר למטופל את תפקיד המערכת ולהבטיח הבנה בסיסית של תהליך קבלת ההחלטות. בכך הופכת הבינה המלאכותית לחלק בלתי נפרד מההסכמה מדעת, עקרון יסוד ברפואה המודרנית.
בתוך כך, מושם דגש משמעותי על שמירת פרטיות המידע הרפואי. מאחר שמערכות בינה מלאכותית נשענות על כמויות גדולות של נתונים, קיים חשש ממשי לזליגת מידע או שימוש לא מורשה בו. ההנחיות מחייבות הגנה מחמירה על נתוני המטופלים, וכן קובעות שאין לעשות שימוש מסחרי במידע רפואי ללא הסכמה מודעת של המטופל.
סוגיה נוספת שמעלה המסמך היא הטיות במידע. מערכות בינה מלאכותית לומדות מנתונים קיימים, ואם הנתונים אינם מייצגים אוכלוסיות מגוונות, עלולות להתקבל החלטות שגויות או מפלות. לכן נקבע שעל מפתחי המערכות ועל המשתמשים בהן לוודא שהנתונים איכותיים, מעודכנים ומייצגים, ולבצע ניטור מתמיד של ביצועי האלגוריתמים.
לצד היתרונות, ההסתדרות הרפואית מתריעה גם מפני סכנה פחות מדוברת, אובדן מיומנויות רפואיות. לפי המסמך, הסתמכות ממושכת על מערכות אוטומטיות עלולה לפגוע ביכולות האבחון והחשיבה הקלינית של הרופא. ההמלצה היא לשלב את הטכנולוגיה באופן מבוקר, תוך שמירה על הכשרה מתמשכת וחשיבה ביקורתית.
המסמך מצייר תמונה מורכבת: מצד אחד, הבינה המלאכותית מבטיחה לשפר את איכות הטיפול, לייעל תהליכים ולהפחית עומסים. מצד שני, היא מחייבת הגדרה מחדש של גבולות האחריות, שמירה קפדנית על זכויות המטופל והקפדה על עקרונות האתיקה הרפואית.
התרעות פיקוד העורף