אסון ה-ChatGPT: רופאים מאבחנים, מטפלים וטועים

נושא הטעויות הרפואיות של בינה מלאכותית, הגיעה השבוע לוועדת הבריאות. ממלא-מקום יו"ר הוועדה, ח"כ רון כ"ץ (יש עתיד) הדגיש כי "אנו מודאגים מהמצב בשטח, הטכנולוגיה פרצה במהירות לחיינו, אך יש להתבונן ולבדוק אחורה את ההתקדמות. חובה לוודא שנשמרות בריאות הציבור ורמת מערכת הבריאות בארץ, למרות הפיתוח להתקדם במהירות".

יעקב אשר (יהדות התורה) הדגיש את הברכה בכל טכנולוגיה חדשה שנכנסת, "אך הפריסה והפריצה שלהן בצורה לא-סדורה וללא הנחיות, איזונים ואסדרה עלולה בשיקול דעת האדם הנצרך ובבריאות הציבור. הטכנולוגיה נועדה הרי לשרת את הרופא, ידיעותיו וניסיונו – ולא להיפך".

לדברי פרופ' יוסף פרס, מנהל "שניידר" לשעבר ונשיא ארגון "למענכם", שימוש-יתר בבינה מלאכותית מביא לטעויות כיוון שהטיפול והתרופה המתאימים משתנים לפי גיל ומין החולה, משקל גופו, ההיסטוריה רפואית שלו ושל משפחתו, ומצב ההתקדמות של המחלה. נתונים שאם הם חסרים, הבינה תטעה – ובגדול. הוא כי בבדיקה שנערכה, ב-20% מהמקרים הבינה העניקה תשובה טובה יותר מהמלצת הרופא. ד"ר גדי נוימן, סגן מנהל "בילינסון" לשעבר וסגן-נשיא הארגון, הוסיף כי הבינה מתבסס על מאגר מידע עצום ודרכי למידה אז זו גם חולשתה. היא ממציאה תקדימים שלא היו ולא נבראו, פעם-אחרי-פעם, ולא יודעת לנמק את התשובה. חוסר-נימוק אינו יכול להמשיך טיפול והענקת תרופה מתאימה. אמרו, מחקר העלה כי 66% מהרופאים לא זיהו טעויות קריטיות ומסכנות-חיים של הבינה.

עוד באתר:

מרתיח

אלימות רפורמית בכותל: המאבטחים לא עשו דבר

נתי קאליש

תיעוד מרגש

סבתא מירה חגגה 90; נכדיה וניניה איחלו בשידור

נתי שולמן

הדהדו מסרים

מבוכה לאיראן: האקרים השתלטו על הטלוויזיה ל-10 דקות

יוני שניידר

השיחה המלאה

הצדיק והמשגיח נפגשו: "איך מביאים את המשיח?"

נתי קאליש

לפי ד"ר לילך צולר, ראש אגף טכנולוגיות רפואיות ב"כללית", הכשרת רופא כולל פיתוח ביקורתיות והטלת-ספק במסקנות – ובדיקה נוספת. כל רופא נתון לבקרה על פעולותיו והחלטותיו, ושימוש בשימוש בבינה מלאכותית מטופלות בהדרכות-רופאים. שימוש בבינה מאושר ע"י ועדת הלסינקי. ד"ר יוסף ולפיש, יו"ר הלשכה לאתיקה בהסתדרות רפואית, הוסיף כי בימים אלו מתגבשים כללי שימוש בבינה מוסרית ואתית, בגלל הבעיה של פוטנציאל-הרווח מחד והחשש לטעות מאיד. "יש חובה על הרופא לגלות שהתשובה למטופל מתבססת ע"י בינה מלאכותית".

לפי לירון זוהר, סגנית ראש חטיבת הטכנולוגיות במשרד הבריאות, הטמעת הבינה מתקיימת במשרד בקרה שבועית על מגבלות הפעלה. "אין היום מידע על מקרים חריגים כמו מטכנולוגיה זו. התחום משתנה ומתפתח כל העת, ואסור להישאר מאחור, חובה ללוות תוך ביקורת".

לסיכום, משרד הבריאות התבקש להקים צוות בשיתוף הלשכה לאתיקה של ההסתדרות הרפואית ורופאים מבתי וקופות החולים, שתקבע קווים מנחים לשימוש בכלי בינה מלאכותית על ידי צוותים רפואיים וכן עצות לרגולציה המתאפשרות בתחום, ככלל שהדבר נדרש . בנוסף, המשרד התבקש לערוך סקר אנונימי בקרב רופאים בבתי ובקופות החולים לגבי מטופלים רפואיים של הרופאים בצ'אט GPT והאם הרופאים מיידעים את הטופלים בשימוש בכלי זה .