Розвідка Оксфордського університету засвідчила, що чат-боти з використанням штучного інтелекту надають неточні та суперечливі медичні настанови. Це становить ризик для безпеки хворих через хибне розуміння уривчастих даних.
Вчені з Оксфордського університету з’ясували, що інтелектуальні чат-боти пропонують хибні та розбіжні поради стосовно здоров’я, що наражають на небезпеку самопочуття пацієнтів. Дослідження наголошує, що неспроможність моделей правильно розшифровувати уривчасту інформацію від користувачів робить самостійну діагностику через ШІ вкрай небезпечною. Про це інформує УНН.
Деталі
Експеримент, в якому брали участь 1300 осіб, продемонстрував, що наслідки взаємодії з ШІ суттєво залежать від формулювання питань. Користувачам було запропоновано оцінити симптоми, такі як сильний головний біль або виснаження, але чат-боти нерідко видавали перелік діагнозів, серед яких людині доводилося обирати навмання. Доктор Адам Махді, головний автор дослідження, зауважив у коментарі для BBC: “Коли штучний інтелект нарахував три ймовірні умови, людям доводилося вгадувати, яка з них може бути придатною. Саме тоді все й руйнується”.
Провідний лікар дослідження, доктор Ребекка Пейн, назвала практику консультування з ШІ “небезпечною”. Вона пояснила, що користувачі зазвичай діляться інформацією поступово і можуть ігнорувати ключові деталі, які професійний медик виявив би під час безпосереднього огляду. У підсумку люди, які користувалися ШІ, отримували суміш корисних і шкідливих порад, що ускладнювало прийняття рішення про необхідність звернення до сімейного лікаря або невідкладної допомоги.
Упередженість алгоритмів та перспективи галузі
Окрім технічних недоліків, фахівці вказують на системні недоліки технології. Докторка Ембер В. Чайлдс з Єльського університету наголосила, що ШІ навчається на медичних даних, які вже містять десятилітні упередження.
Чат-бот є настільки ж добрим діагностом, наскільки добрими є досвідчені клініцисти, що також не ідеально
– додала вона.
Це створює додатковий ризик повторення помилок, закладених у сучасну медичну практику.
Незважаючи на критику, експерти бачать потенціал у спеціалізованих моделях. Доктор Берталан Меско зазначив, що нові версії чат-ботів від OpenAI та Anthropic, розроблені спеціально для сфери охорони здоров’я, можуть показати кращі результати. Проте ключовою умовою безпеки залишається впровадження чітких національних правил, регуляторних бар’єрів та офіційних медичних рекомендацій для вдосконалення таких систем.