Чат-боты с искусственным интеллектом примерно в 50% случаев дают неточные или вводящие в заблуждение медицинские советы. Это вызывает серьезные опасения, поскольку все больше людей обращаются к таким инструментам за информацией о здоровье без консультации с врачами, выяснили эксперты BMJ Open.
Ученые проанализировали ответы на вопросы по разным медицинским темам пяти популярных ИИ-платформ: ChatGPT, Gemini, Meta AI (принадлежит Meta, признанной в России экстремисткой и запрещенной, Grok и DeepSeek). В общей сложности было задано 250 вопросов и лишь на 2 из них ученые не получили ответа, что соответствует доле отказов всего в 0,8%э
Однако оказалось, что около половины ответов содержали ошибки или сомнительные рекомендации, а почти пятая часть была признана крайне проблемной. Чат-боты лучше справлялись с простыми вопросами и темами вроде вакцинации и онкологии. Однако их точность заметно снижалась при более сложных вопросах, особенно в таких областях, как подбор питания и лечение стволовыми клетками.
Отмечается, что системы часто дают ответы с высокой уверенностью, даже если информация неполная или неверная. При этом ни одна из платформ не смогла подтвердить ответы полностью достоверными источниками.
Авторы исследования подчеркивают, что такие технологии не имеют медицинской лицензии и не способны заменить клиническое мышление врача. Их бесконтрольное использование может способствовать распространению дезинформации, поэтому требуется более осторожный подход и повышение осведомленности пользователей.
Ранее OpenAI представила ChatGPT Health, отдельный раздел внутри ChatGPT, ориентированный на вопросы здоровья и благополучия. Сервис позволяет пользователям подключать свои медицинские записи и интегрировать данные из популярных приложений по фитнесу и здоровью, включая Apple Health, MyFitnessPal, Peloton и другие.