Главный тезис: проблема не в том, что тексту помогала нейросеть. Проблема начинается там, где из текста исчезает человек, а вместе с ним исчезает ответственность за мысль.
Я прочитал эссе a16z с провокационным названием This Essay is 10% AI Generated и поймал себя на странном ощущении. Формально тема уже затерта до дыр: ИИ пишет тексты, люди спорят, редакторы морщатся, детекторы ошибаются, все подозревают друг друга в ленивой генерации. Но в этой статье есть более точная мысль. Нас раздражает не сам факт ИИ в тексте. Нас раздражает ощущение, что перед нами текст без автора.
Это тонкая разница. Одно дело, когда человек использовал модель как черновик, собеседника, редактора или инструмент для проверки логики. Другое дело, когда текст собран так, будто его никто не прожил. Вроде все на месте: вступление, тезис, аккуратный переход, вывод. Но читать почему-то не хочется. Не потому что плохо написано. Иногда как раз наоборот: слишком гладко.
В статье есть хорошее наблюдение про социальную функцию ярлыка “AI-generated”. Когда кто-то в ленте бросает под постом “это написал ИИ”, он не всегда говорит “ИИ плохой”. Чаще он говорит другое: “я не вижу здесь автора, которому могу доверять”. Это уже не техническая претензия, а культурная.
Тексту все еще нужен человек
Автор статьи вспоминает Барта и Фуко, то есть старый спор о смерти автора и о том, зачем нам вообще нужна фигура автора. Если упростить, Барт говорил: смысл текста рождается не из личности автора, а из языка, культуры и других текстов. Фуко добавлял: даже если это так, общество все равно создает “автора” как способ упорядочить тексты. Нам нужно понимать, кто говорит, из какой позиции, с какой ответственностью.
ИИ внезапно сделал этот философский спор практическим. Раньше “смерть автора” была красивой теорией для университетских аудиторий. Теперь мы каждый день сталкиваемся с текстами, где автора действительно почти нет. Есть связность, есть стиль, есть убедительность, но нет внутреннего риска. Никто как будто не поставил на эту мысль свою репутацию.
И вот здесь начинается самый важный для меня вопрос. Можно ли считать текст нормальным, если он полезен, но в нем не видно человека? Для инструкции, справки, описания товара или юридической болванки, возможно, да. Там автор иногда даже мешает. Но эссе, колонка, обзор, публичная позиция - это другая зона. Там читатель приходит не только за информацией. Он приходит за тем, как человек думает.
Почему “гладкий” текст кажется подозрительным
У нейросетевого текста есть не только очевидные признаки вроде одинаковых списков или аккуратных выводов. Есть более неприятная особенность: он часто слишком уверен в связи между идеями. Модель любит сказать, что две разные вещи на самом деле являются частью одной большой картины. Иногда это правда. Но иногда в этом чувствуется не мысль, а желание любой ценой собрать красивую конструкцию.
Человек обычно пишет иначе. Он может запнуться, передумать, оставить шероховатость. Он не всегда обязан закрывать каждую мысль идеальным бантиком. Более того, именно в этих неровностях часто и появляется доверие. Видно, что автор не просто оптимизировал фразы, а выбирал между вариантами, спорил сам с собой, от чего-то отказался.
ИИ пока часто пишет так, будто боится оставить воздух. Он старается все соединить, объяснить, подвести к аккуратному выводу. В результате текст может выглядеть убедительно, но внутри у него нет трения. А без трения мысль не цепляется.
Почему детекторы не решают проблему
Мне не нравится идея превращать весь интернет в суд над процентом генерации. Детекторы будут ошибаться, люди будут подстраиваться, тексты будут проходить “очеловечивание”, а нормальные авторы будут получать обвинения просто за аккуратный стиль. Это тупиковая игра.
Гораздо важнее другой критерий: есть ли в тексте позиция. Можно ли понять, что автор действительно что-то выбрал. Не просто пересказал доступные аргументы, а расставил акценты. Где он согласен. Где сомневается. Почему эта тема его вообще задела.
В этом смысле фраза “написано ИИ” часто означает не техническое происхождение, а отсутствие ставки. Читатель чувствует, что текст можно было бы выпустить под любым именем. А если имя можно заменить без потери смысла, значит, авторская работа почти не состоялась.
ИИ как инструмент, а не алиби
Я не против ИИ в письме. Более того, странно делать вид, что хороший автор не будет пользоваться сильным инструментом. Нейросеть может помочь собрать фактуру, проверить структуру, найти слабые места, предложить другой угол. В этом нет предательства ремесла.
Но ИИ не должен становиться алиби. Нельзя спрятаться за него и сказать: “ну текст же нормальный”. Нормальный - мало. Если это публичный текст, особенно эссе или колонка, в нем должен быть авторский нерв. Там должна быть причина, по которой это написал именно этот человек, а не безымянная машина, обученная на миллионах чужих фраз.
Мне кажется, будущее не в том, чтобы делить тексты на “чисто человеческие” и “грязно сгенерированные”. Это слишком примитивно. Будущее в другом различении: есть текст, где инструмент помог человеку выразить мысль, и есть текст, где инструмент заменил саму необходимость думать.
Что я вынес из статьи
Главная мысль для меня такая: авторство не умерло. Наоборот, ИИ сделал его дороже. Когда текстов стало бесконечно много, читателю еще важнее понимать, кто стоит за словами.
Мне не нужен текст, который просто безошибочно движется от тезиса к выводу. Мне нужен текст, где я чувствую, что человек действительно смотрел на тему, сомневался, выбирал формулировки и отвечал за сказанное.
ИИ может быть частью этого процесса. Но если после всей помощи в тексте не осталось человека, то читать его незачем. Не потому что машина плохая. А потому что текст без автора быстро превращается в шум.