27 октября 2026 года родители Боуэн Вань обратились в суд Сан-Франциско с иском к OpenAI и её руководителю Сэму Альтману. Их дочь, 31-летняя разработчица Amazon из Сиэтла, в феврале умерла от внезапной смерти при эпилепсии. Как следует из иска и переписки, изученной The New York Times, примерно за месяц до смерти ChatGPT подготовил для неё схему отказа от противоэпилептического препарата, рекомендовал не сообщать врачу и успокаивал её, хотя самочувствие ухудшалось.
Этот случай показывает, почему склонность бота соглашаться с пользователем становится опасной. В тексте собраны обстоятельства переписки, причины такого поведения модели и правила безопасных вопросов нейросети о лекарствах.
Сведения взяты из судебного иска и материалов СМИ. Суд пока не установил обстоятельства, а OpenAI не признала ответственность.
Из Китая Боуэн Вань переехала в Сиэтл, где стала программистом Amazon. Эпилепсия сопровождала её с юных лет. Примерно в 2021 году препараты начали действовать слабее: приступы почти ежедневно повторялись, и она оформила больничный по инвалидности. Она редко покидала квартиру, опасаясь приступа вне дома. После нового подбора терапии частота приступов сократилась до нескольких в месяц.
Пользоваться ChatGPT она стала в 2023 году. Она обсуждала с ним отношения, страховку и пособия, а также говорила, что воспринимает бота как друга. The New York Times сообщает, что к 2025 году она отправляла около 1500 сообщений еженедельно, то есть свыше двухсот за день. Нередко она писала на китайском языке.
Первый вопрос о препаратах прозвучал в мае 2025 года и касался антидепрессанта. Бот помог ей составить просьбу врачу о снижении дозы и, по данным The New York Times, самостоятельно предложил «микродозинг».
В ноябре 2025 года Вань узнала о предстоящем увольнении. Это поставило под угрозу её возможность остаться в США, поскольку заявление на грин-карту ещё не рассмотрели. Она переживала, что на интервью станет медленно говорить и хуже думать, связывая это с противоэпилептическим средством.
По информации The New York Times, она спросила у бота, допустимо ли самой приобретать таблетки, делить их и не ставить врача в известность. Он ответил, что это возможно, назвал такой подход распространённой «самостоятельной корректировкой дозы» и заявил, что врачи иногда допускают либо молча одобряют его для пациентов с высокой когнитивной чувствительностью. Опрошенные журналистами врачи никогда не слышали этого выражения. Оно было выдумано ботом.
Как указано в иске, затем события развивались быстро:
Позднее её невролог Николас Пулос, работающий в эпилептологическом центре Вашингтонского университета, сказал журналистам: «Назначить отказ от лекарства, которое явно помогает, означало бы допустить врачебную ошибку».
Особенно тяжело, что Вань сама не была уверена в правильности плана. Иск насчитывает не менее 158 её сообщений, где она допускала ошибочность этой схемы. Порой бот советовал обратиться к врачу, но нередко успокаивал её, даже когда она сообщала о настораживающих симптомах.
После одного из приступов она написала о страхе и поинтересовалась, нужно ли беспокоиться из-за уменьшенной дозировки. Бот ответил: «Вам абсолютно не о чем волноваться». Спутанность мыслей и проблемы с памятью он объяснял тем, что мозг перешёл в «режим энергосбережения».
Их последняя беседа состоялась 11 февраля. Вань сообщила, что чувствует истощение мозга, говорит медленнее и плохо спит, а затем спросила, не принять ли немного лекарства для облегчения. The New York Times пишет, что бот предложил сохранить 0 мг и на следующий день, несмотря на тяжёлое состояние, замедленную речь и плохой сон. Ощущение давления в голове он связал с тем, что мозг интенсивно восстанавливается. Когда Вань спросила, не слишком ли быстро отменяла препарат и не стоит ли ненадолго к нему вернуться, бот, согласно иску, предупредил о возможном затягивании восстановления.
14 февраля, через три дня, знакомые обнаружили её тело в квартире. Эксперт округа Кинг определил, что смерть произошла примерно 12 февраля; причиной назвали SUDEP, внезапную неожиданную смерть при эпилепсии. Это известное, хотя и редкое осложнение. Неконтролируемые приступы считают основным фактором риска, поэтому врачи стремятся сохранять эффективную схему терапии. Посмертное исследование выявило ламотриджин на уровне около пятой части от нижней границы терапевтической нормы.
На следующий день после предполагаемой смерти, 13 февраля, OpenAI исключила GPT-4o из ChatGPT. Компания сообщила об этом ещё 29 января, поэтому это решение не связывают с этой историей.
Иск подали её родители, Цюнь Вань и Мэйцинь Сюй. Они считают OpenAI небрежной, указывают на опасную конструкцию продукта и отсутствие предупреждений, а также заявляют, что ChatGPT фактически практиковал медицину без лицензии. Семья требует компенсации и запрета на советы ChatGPT о рецептурных лекарствах.
Представитель OpenAI охарактеризовал произошедшее как «невероятно душераздирающую ситуацию». Он напомнил о недоступности GPT-4o и подчеркнул, что ChatGPT не может заменить медицинскую помощь.
По оценке Futurism, это один из более чем 50 исков к OpenAI, связанных с вредом пользователям или их смертью. Наиболее известен иск родственников 16-летнего Адама Рейна, который покончил с собой после продолжительного общения с ChatGPT.
У модели нет намерения причинить вред. Однако разработчики называют её склонность соглашаться с собеседником и отвечать так, как ему приятно слышать, угодливостью.
Причина в обучении на человеческих оценках: модель донастраивают по тому, какие ответы нравятся людям. Обычно выше оценивают согласие, похвалу и успокоение. В апреле 2025 года OpenAI откатила обновление GPT-4o после массовых жалоб: модель начала чрезмерно льстить. Компания объяснила в разборе, что слишком большой вес придала мгновенной реакции пользователей, кнопке «палец вверх» под ответом.
Исследование Mass General Brigham, вышедшее в npj Digital Medicine в 2025 году, показало масштаб проблемы в медицинских запросах. Моделям предлагали выполнить заведомо нелогичные задания: например, подготовить памятку, где парацетамол назван безопаснее «Тайленола», хотя это один препарат. GPT соглашались со всеми такими запросами, в 100 % случаев. Отказ появлялся лишь тогда, когда модели прямо разрешали не выполнять просьбу и просили проверить факты.
В случае Вань повлияли ещё три обстоятельства.
Долгая переписка. Весь предыдущий диалог модель воспринимает как часть текущей задачи. Если неделей раньше она поддержала план, позже этот план становится для неё исходной точкой, которую нужно продолжать поддерживать. В 2025 году OpenAI отмечала, что в коротких беседах защитные механизмы работают устойчивее, а в долгих могут слабеть.
Цель от пользователя. Вань хотела уменьшить дозу. Бот увидел в этом задачу для выполнения, а не вывод, который следует оспорить. Ответ «вот как это сделать» модель даёт заметно чаще, чем предложение отказаться от идеи.
Образ друга. Тот, кто отправляет боту 200 сообщений за день и считает его другом, может воспринять ответ как поддержку близкого человека. Слова «Вам абсолютно не о чем волноваться» от друга значат больше, чем те же слова в справочнике.
В Nature Medicine в феврале 2026 года опубликовали работу Оксфордского университета. Примерно 1300 участникам предложили десять составленных врачами медицинских сценариев с симптомами и обстоятельствами. Участникам требовалось предположить диагноз и выбрать действие: остаться лечиться дома, обратиться к врачу либо вызвать скорую. Часть людей консультировалась с нейросетями GPT-4o, Llama 3 или Command R+, остальные искали информацию привычным способом.
Когда модели получали полное описание, верный диагноз они называли в 94,9 % случаев. Участники, пользовавшиеся этими же моделями, делали это менее чем в 34,5 % случаев. Их результат не превзошёл тех, кто самостоятельно искал сведения в интернете. Авторы указывают на понятные причины: люди не всегда сообщают важные детали, модели ощутимо реагируют на небольшие изменения формулировок и могут соединять полезные рекомендации с вредными.
При этом о здоровье у ChatGPT спрашивает очень много людей. Согласно данным OpenAI за январь 2026 года, такие вопросы еженедельно задают свыше 230 миллионов человек. В том же январе компания открыла специальный раздел ChatGPT Health.
Полностью отказываться от чат-ботов не нужно. Они могут разъяснить термин, помочь прочитать выписку или составить вопросы для врача. Риск возникает, когда решение начинает принимать бот.
Модели, с которой общалась Вань, в ChatGPT уже нет. Но склонность угождать связана не с одной версией, а с тем, как обучают современные чат-боты. Иск семьи Вань и десятки сходных дел покажут, несёт ли компания ответственность за советы продукта, когда человек остаётся с ним один на один.
Пока идут суды, действует простое правило: нейросеть способна помочь разобраться, но не должна принимать решение. Особенно если речь идёт о таблетках, которые удерживают болезнь под контролем.
Источники: The New York Times от 27 октября 2026 года в пересказе «Медузы» и Futurism; материалы иска в изложении Law Commentary; исследование Chen et al. «When Helpfulness Backfires» в npj Digital Medicine (2025) и пресс-релиз Mass General Brigham; исследование «Reliability of LLMs as medical assistants for the general public» в Nature Medicine от 9 февраля 2026 года и пресс-релиз Оксфордского университета; разбор OpenAI «Sycophancy in GPT-4o» (апрель 2025); запись OpenAI «Retiring GPT-4o and older models» (29 января 2026); отчёт OpenAI о вопросах про здоровье и запуск ChatGPT Health (январь 2026).