По данным опроса LAMPA и Rambler&Co в конце 2025 года, 82% интернет-пользователей отмечают рост ИИ-контента в интернете за последний год. Почти всегда или часто распознать такой контент, по их словам, могут 70% опрошенных. Сокрытие ИИ-генерации ухудшает отношение к брендам у 56% респондентов. Никита Худов, управляющий партнер StrategAI и генеральный директор Geoboost, рассказал Sostav, почему почти человеческий текст может отталкивать читателя и как писать материалы с моделью, не теряя доверия к бренду.
Что делает текст нейротекстом?
Языковые модели участвуют в создании все большей доли текстов. Так, модели обрабатывали не менее 13,5% аннотаций научных статей, опубликованных в базе PubMed в 2024 году. Тексты в таких престижных источниках зачастую написаны очень грамотно, и все же опытные читатели могли узнать, что текст написан моделью, по его характерным признакам. А когда читатель знает об участии ИИ, он меньше доверяет автору, ниже оценивает его компетентность и испытывает к нему меньше симпатии.
Нейротекстом здесь называется текст, в котором читатель узнает признаки языковой модели. Автором такого текста может быть и модель, и человек. Так как читатель обычно не знает, как создавался текст, определение опирается на его восприятие.
Признаки нейротекста изначально возникают из способа, которым модель выбирает слова, и из ее обучения на оценках людей.
Чем текст модели отличается от текста человека
Отдельные признаки нейротекста встречаются и в текстах людей, поскольку модели обучались на человеческих текстах. Это видно и по выборке Telegram-постов Geoboost, опубликованных до 2022 года: длинное тире есть в 52% постов, двоеточие в 62%, кавычки-елочки в 38%.
Раз отдельные признаки есть и у людей, разницу в использовании этих признаков нужно искать в их сочетании. Чтобы это проверить, команда Geoboost попросила Claude Sonnet 5 написать посты по брифам, составленным по постам людей, с теми же темами, фактами и длиной. Затем в анализ вошли шесть самых известных признаков оформления, которые, как считается, выдают модель: длинное тире, двоеточие, кавычки-елочки, а также отсутствие восклицательных знаков, вопросов и эмодзи. Для каждого поста модели и каждого поста человека, написанного до 2022 года, команда посчитала, сколько из этих признаков в нем встречается. Пять или шесть признаков одновременно встретились в 93% постов модели и в 23% постов людей.
Модель воспроизводит признаки нейротекста систематически и одновременно. Человек использует те же приемы реже и по отдельности: типичный пост человека содержит три-четыре признака из шести.
Те же посты команда сравнила и по каждому признаку отдельно. Сильнее всего человека и модель различает типографика. На полных текстах модель ставит длинное тире в 99% постов, а человек в 52%. На 1000 слов у модели приходится 46 тире против 12 у человека, то есть в 3,9 раза больше.
Как читатель распознает нейротекст?
Читатель без опыта работы с моделями отличает машинный текст почти наугад. В шести экспериментах 4600 участников читали короткие самоописания для сайтов знакомств, аренды жилья и поиска работы. Верно определить автора им удавалось в 50−52% случаев, что фактически соответствует случайному угадыванию (или шансу встретить на улице динозавра: либо встретишь, либо нет). Тексты для этих экспериментов писали ранние модели GPT-2 и GPT-3, однако и с современными моделями неподготовленные читатели показывают похожий результат.
Читатели, которые регулярно пишут тексты с помощью моделей, ошибаются гораздо реже. В другом исследовании пять таких экспертов оценили 300 статей. Решая большинством голосов, они ошиблись только в одной и ни разу не приняли текст человека за машинный. В среднем один эксперт верно распознавал 93% машинных текстов.
Различие, по-видимому, объясняется опытом: регулярное чтение ответов моделей учит замечать их устойчивые привычки. Чем чаще люди работают с моделями, тем лучше узнают эти признаки. Опытный читатель распознает нейротекст по их сочетанию, ждет от такого текста меньшей точности и надежности и переносит недоверие с текста на автора. По оценке Geoboost, для компании автором выступает бренд, поэтому даже слабо заметный нейротекст в рассылке, на сайте или в канале компании может привести к снижению доверия к самой компании.
Реакция читателя, по всей видимости, зависит от того, насколько текст модели похож на человеческий.
Гипотеза зловещей долины
В 1970 году японский робототехник Масахиро Мори предложил гипотезу о симпатии к роботам. Согласно гипотезе, симпатия растет вместе со сходством робота с человеком, но только до определенного предела. За этим пределом объекты, почти неотличимые от человека, например, реалистичный протез руки, вызывают больше неприязни, чем промышленный робот. Этот провал на графике симпатии Мори назвал зловещей долиной.
Последующие проверки гипотезы показали, что провал в той форме, которую описал Мори, наблюдается редко. Надежнее всего подтверждается гипотеза рассогласования, согласно которой неприязнь возникает, когда черты одного объекта человечны в разной степени. Например, кожа выглядит живой, а глаза остаются кукольными.
Вероятно, тот же механизм действует и для нейротекста. Текст, близкий к человеческому, но с рассогласованием признаков, может вызывать больше отторжения, чем явно машинный текст. Читатель замечает в тексте признаки разных уровней: слова, оформление, ритм, построение и голос автора. Рассогласование возникает, когда одни признаки указывают на человека, а другие на модель, и человек начинает подозревать, что в создании текста участвовала машина, но он не уверен в этом окончательно.
Например, в посте эксперта в его личном Telegram-канале тема, рассказ от первого лица и знакомое имя обещают живого автора. Но в самом тексте много длинных тире и кавычек-«ёлочек», абзацы одинаковой длины, тон ровный, а в конце стоит общий вывод. Чем ближе такой текст к человеческому, тем заметнее несоответствие, и читатель может почувствовать, что его пытаются обмануть.
Если гипотеза верна, текст модели нужно приближать к человеческому на всех уровнях сразу. Исправление одного уровня, например, замена слов, может перевести текст из явно машинных в почти человеческие, то есть прямо в долину.
Ограничения запретов и готовых правил
Очевидный способ борьбы с нейротекстом состоит в том, чтобы удалить из текста известные признаки по списку. Однако слепая проверка показывает, что такая правка может ухудшить текст. Такую проверку провели в открытом проекте ru-text. Три слепых судьи в ролях читателя, редактора и психолингвиста сравнивали там 10 пар текстов до и после редактуры моделью по установленным правилам. Из 30 оценок 24 достались тексту без правок, четыре — тексту после правок, а в двух случаях судьи не увидели разницы.
Кроме того, инструкция по фиксированным правилам сама становится шаблоном. Это показал эксперимент Geoboost, в котором команда описала жесты живого автора (например, иногда добавлять эмодзи). Модель стала исполнять каждый жест одинаково часто в каждой части материала. В серии из 36 постов эмодзи в конце нескольких абзацев появились в 61% постов, а у людей в постах до 2022 года они встречались только в 2% (данные Geoboost).
Как писать с моделью, чтобы текст не воспринимался как машинный?
По оценке команды Geoboost, избежать нейротекста можно, если изменить сам процесс письма. Признаки нейротекста появляются, когда модель пишет без опоры: без позиции автора, без конкретных фактов и без понимания жанра. Работа над текстом начинается с того, что автор формулирует собственный тезис и дает модели проверяемые факты.
Все это автор собирает в подробный бриф. В нем стоят тезис и позиция автора, проверяемые факты и реальные данные, люди и компании, о которых идет речь, а также структура текста и логика повествования (например, с чего начать, в каком порядке раскрывать мысли и к какому выводу прийти).
Дальше текст проходит цикл согласования. Модель пишет черновик по брифу. Человек редактирует его, сверяет факты с источниками и оставляет комментарии там, где не хватает смысла или связности. Модель вносит правки, дописывает недостающее и исправляет текст целиком. В конце человек вычитывает текст и правит его вручную. Правку и доработку можно повторять, пока текст не станет таким, каким его задумал автор.
Структуру, логику повествования и позицию задает человек, и они вносят в текст непредсказуемость и неровный человеческий ритм, которые модели даются с трудом. Кроме того, цикл меняет текст на всех уровнях сразу, и, если гипотеза зловещей долины верна, это удерживает его от попадания в долину.
Процесс в организации
В компании, где с моделями пишут регулярно, цикл держится на четырех условиях. Первое состоит в том, что у каждого текста есть автор брифа, который формулирует тезис и позицию, собирает факты и отвечает за итог, даже если черновик написала модель. Второе условие составляют образцы голоса, то есть лучшие тексты, написанные людьми, по каждому жанру, в котором компания пишет с моделью. С этими образцами сверяют признаки новых текстов, и по ним же модель настраивают под жанр.
Третье условие касается слепой проверки, которую не обязательно проводить для каждого текста. Достаточно время от времени сравнивать вслепую несколько текстов, написанных с моделью, с работами людей в том же жанре, а все остальное проходит обычную вычитку.
Четвертое условие состоит в том, как измеряют результат. Качество такого процесса оценивают по реакции читателей: дочитывают ли они тексты, отвечают ли на рассылки, не отписываются ли от канала.
