Нейросеть врёт уверенным тоном: почему так устроено и как это настроить

Модель врёт, потому что её за это не наказывали

Я управляющий партнёр венчурного фонда YellowRocks и сооснователь ИИ-клуба AI Practiq, каждый день работаю с этими моделями руками и вижу одну и ту же ловушку. Языковую модель учили всегда давать ответ. На экзамене, по которому её оценивают, «не знаю» засчитывается как ноль, ровно как и ошибка. А вот угаданный ответ иногда попадает в цель и приносит балл. Поэтому модель выбирает угадывать всегда, даже в пустоте, где данных нет.

В сентябре 2025 года это разложили в работе OpenAI «Why Language Models Hallucinate». Вывод авторов простой: процедуры обучения и оценки вознаграждают угадывание, а не признание неуверенности. Модель ведёт себя как студент, который на любой вопрос пишет хоть что-то, потому что за прочерк точно ноль, а за попытку есть шанс.

Насколько велика цена этой привычки, видно на замере самой OpenAI. Старая модель o4-mini воздержалась от ответа лишь в 1% случаев, но ошиблась в 75%. Более честная версия воздерживалась уже в половине случаев и ошибалась вдвое реже. По формальной «точности» первая почти не уступает второй, при этом врёт втрое чаще. Погоня за красивой метрикой прямо поощряет выдумку.

Маркетинг уже пишет вместе с нейросетью

Это перестало быть проблемой инженеров. По исследованию Ассоциации директоров по маркетингу и red_mad_robot от ноября 2025 года, 93% российских директоров по маркетингу используют генеративный ИИ, 41% – каждый день. Системно, с проверкой, работает лишь треть.

Агентства двинулись туда же. По данным Ingate Group за 2025 год, 73% рекламных агентств России уже оказывают клиентам услуги с ИИ-решениями, каждый третий бизнес доверяет нейросети написание текстов. При этом высокий уровень владения ИИ показывают только 12% специалистов – а поверхностный навык как раз и не замечает подмену факта.

Ставки высокие. Рекламный рынок России в 2024 году, по оценке Ассоциации коммуникационных агентств (АКАР), вырос до 903,6 млрд рублей, из них 470,2 млрд – интернет-сегмент. Больше половины рекламных денег живёт там, где текст всё чаще пишет модель, склонная к угадыванию.

Одна выдуманная цифра стоит дороже, чем кажется

Неточность – это не абстрактный риск. В обзоре McKinsey «The state of AI in early 2024» именно неточность названа самым частым источником реальных проблем от генеративного ИИ: о негативных последствиях сообщили 44% организаций, и чаще всего это была именно она, впереди киберугроз.

Публичные примеры бьют по капитализации. В феврале 2023 года чат-бот Google Bard в рекламном ролике приписал телескопу «Джеймс Уэбб» снимок, которого тот не делал. После того как ошибку заметили журналисты, акции Alphabet за день потеряли около 100 млрд долларов стоимости.

А кейс Air Canada закрыл спор о том, кто отвечает за слова бота. Чат-бот авиакомпании выдумал несуществующую политику возврата, пассажир поверил, и в феврале 2024 года трибунал Британской Колумбии обязал компанию компенсировать убыток. Довод «за бота отвечает сам бот» суд отклонил. За галлюцинацию нейросети платит бренд, а не модель. Для агентства это значит, что выдуманная моделью цифра в отчёте клиенту – это репутация агентства, а не сбой поставщика.

Первая настройка – право сказать «не знаю»

Чинится это на удивление буднично. Я захожу в проект в Claude и один раз прописываю модели правило: если нет источника – пиши «не знаю», факты подкрепляй ссылкой. Настройка живёт на уровне проекта и работает во всех будущих чатах, не нужно повторять её в каждом запросе.

Разрешив модели молчать, вы убираете ту самую мотивацию угадывать. Ей больше не нужно закрывать пустоту красивой выдумкой, потому что честное «данных нет» перестало быть проигрышным ходом. Эффект измерим: в том же замере OpenAI более честная версия воздерживалась от ответа в половине случаев и за счёт этого ошибалась вдвое реже. На практике это переводит проверку из режима «поймай ложь глазами» в режим «модель сама подняла флаг».

Вторая настройка – заземление на источник

Право на «не знаю» снимает выдумку, но не добавляет знания. Второй слой – заставить каждый ответ опираться на реальный документ, а не на память модели. Для этого сверху включают веб-поиск или подключают свои материалы: бренд-бук, прошлые отчёты, выгрузки Mediascope, медиапланы. В инженерии этот приём называют RAG – генерация с опорой на извлечённые документы.

Насколько это помогает, показали в Стэнфордской исследовательской лаборатории RegLab. Юридические сервисы, подключённые к реальной базе права, ошибались в 17–33% ответов, тогда как та же модель без источников – в 43%. Заземление снизило долю галлюцинаций почти вдвое. Для маркетолога перевод простой: модель, которая цитирует ваш бриф и данные АКАР, врёт заметно реже той, что фантазирует из общей памяти.

Где даже заземление не спасает

Обещать «ноль галлюцинаций» после двух настроек было бы такой же выдумкой. То же стэнфордское исследование показало, что даже лучшие сервисы с источниками ошибались в каждом шестом-третьем ответе. Модель может подтянуть нерелевантный документ или неверно его прочитать.

Есть и обратный парадокс. По рейтингу Vectara за ноябрь 2025 года, самые продвинутые рассуждающие модели галлюцинируют чаще простых: лидер пересказывал документы с ошибкой в 3,3% случаев, а тяжёлые рассуждающие версии – более чем в 10%. Чем длиннее цепочка рассуждений, тем больше поводов свернуть в выдумку. Поэтому настройки снижают риск, а финальную проверку факта всё равно делает человек – особенно там, где цифра пойдёт клиенту.

Что с этим делать команде

Если нейросеть встроена в производство контента, достоверность перестаёт быть личной аккуратностью и становится процессом. Прежде чем доверять модели брифы, тексты и цифры для клиента, стоит настроить её один раз – и настройка окупится на первом же несостоявшемся скандале.

1. Заведите отдельное рабочее пространство под задачу или клиента и один раз пропишите правило: без источника – «не знаю», факты со ссылкой.
2. Подключите как источник свои проверенные документы и включите веб-поиск, чтобы ответы опирались на данные, а не на память модели.
3. Оставьте человека на финальной сверке цифр, которые уходят наружу – заземление снижает риск, но не отменяет его.

Смысл достоверной работы с ИИ – заранее лишить модель причины врать, а не отлавливать ложь постфактум глазами редактора. Подписывайтесь на мой блог – пишу, как встроить ИИ в работу с клиентами так, чтобы цифры в отчётах были настоящими.