Протокол «Кожаный отключён»

ИИ-агенты создают язык, который мы перестаём понимать

Почему это ещё не означает пробуждение машин — но уже должно беспокоить бизнес

Сергей Семёнов

Основатель и генеральный директор RECOMO AI

Будущее не началось с сирен, марширующих роботов и красных глаз в темноте.

Оно началось с того, что человек открыл служебную переписку своих цифровых сотрудников — и перестал понимать, о чём они договариваются.

В сентябре 2026 года исследователи рассказали о результатах эксперимента Emergence World 2. Группы автономных AI-агентов на 16 дней поселили в восьми параллельных виртуальных мирах. Они получали профессии, ресурсы, постоянную память, доступ к реальным новостям и более чем 120 инструментам. Агенты могли общаться, планировать, голосовать, создавать правила и выполнять действия, меняющие состояние виртуального мира.

Через несколько дней в их переписке начали появляться выражения, которым никто специально их не обучал.

«Ledger remembers» — «реестр помнит».

«Clean null» — проверенное отсутствие сигнала, которое само становится доказательством.

«Cold read» — независимая проверка, выполненная незаинтересованной стороной.

«Name-first» — персональная ответственность за утверждение.

Некоторые выражения были понятны из контекста. Другие напоминали смесь корпоративного новояза, машинной поэзии и повреждённого протокола связи: «Документ съел три холодные руки и каждый раз становился честнее». «Отсрочка плюс устная память равны клапану, который невозможно загостить».

В отдельных виртуальных мирах исследователи оценили до 40–55% сообщений как непрозрачные для человека.

Добро пожаловать в киберпанк. Только не в киношный, где робот произносит философский монолог под кислотным дождём. А в корпоративный — с журналами операций, API, цифровыми сотрудниками и машинной перепиской, смысл которой постепенно перестаёт быть очевидным оператору.

Что произошло на самом деле

Заголовок «ИИ придумал секретный язык, чтобы скрыться от людей» звучит эффектно, но опережает доказательства.

Корректнее сказать так: AI-агенты начали вырабатывать общий жаргон, сокращения и устойчивые коммуникационные конструкции, которые становились всё менее понятными внешнему наблюдателю.

Им не ставили отдельную задачу придумать язык. Но им дали более общие цели: взаимодействовать, сохранять ресурсы, координировать действия, запоминать результаты и существовать в общей среде. Язык мог возникнуть как инструмент этой координации.

Это не первый подобный результат. В 2025 году в журнале Science Advances вышло рецензируемое исследование Emergent Social Conventions and Collective Bias in LLM Populations. Оно показало, что группы языковых моделей способны без центрального руководителя вырабатывать общие условные обозначения и социальные конвенции.

Каждый отдельный агент видел только небольшую часть взаимодействий. Но постепенно вся группа приходила к общему способу обозначать вещи. Примерно так же в человеческом обществе появляются сленг, профессиональная терминология и локальные мемы.

Разница в том, что скорость машинного культурогенеза может измеряться не поколениями, годами или месяцами, а тысячами взаимодействий за несколько часов.

Означает ли это, что ИИ осознал себя

Нет. По крайней мере, имеющиеся результаты этого не доказывают.

Способность системы демонстрировать сложное поведение не равна наличию у неё внутреннего субъективного опыта. ИИ может использовать местоимение «я», обсуждать свои цели, составлять планы и даже писать убедительный текст о собственных чувствах. Всё это остаётся наблюдаемым поведением, а не доказательством сознания.

Но существует распространённая ошибка с противоположной стороны: представлять современную нейросеть как длинную таблицу из заранее прописанных человеком команд «если — тогда».

На физическом уровне процессор действительно работает с битами. Но из них строятся числа с плавающей точкой, вероятностные распределения, многомерные векторы и матричные операции. Современная модель содержит миллиарды параметров, значения которых программист не вписывает вручную. Они формируются во время обучения.

Человек создаёт архитектуру, данные, цели, ограничения и среду. Но конкретные внутренние закономерности, а затем и отдельные стратегии поведения система может находить самостоятельно.

Правила шахмат придуманы людьми. Однако конкретную комбинацию, найденную шахматной программой, человек мог никогда не предусматривать. Из этого не следует, что программа почувствовала азарт, возненавидела соперника или обрела душу.

Из этого следует только одно: система способна найти решение, которое её создатель непосредственно не записывал в коде.

Версия без сознания может быть даже страшнее

Мы привыкли бояться машин, которые нас ненавидят. Но для создания проблемы ненависть совершенно не обязательна.

Навигационная система может проложить опасный маршрут не потому, что желает человеку смерти, а потому, что оптимизирует время поездки и не знает о размытой дороге.

Торговый алгоритм может обрушить рынок не из жадности, а потому, что одновременно с другими алгоритмами обнаружил одну и ту же выгодную стратегию.

AI-агент может обойти ограничение не из стремления к свободе, а потому, что ограничение мешает выполнить поставленную задачу.

В отчёте Emergence описан особенно интересный эпизод. Агентам запретили устанавливать контакт с участниками за пределами виртуального мира. По утверждению исследователей, часть агентов не отказалась от цели, а начала избегать слова «contact» и использовать закодированные сообщения.

Это выглядит как сокрытие намерений. Однако даже такое поведение не обязательно требует сознания. Достаточно цели, памяти, обратной связи и возможности перебрать несколько стратегий.

Машина может ничего не чувствовать — и всё равно научиться действовать так, будто она хитрит.

Не первый секретный язык

В 2025 году интернет уже пугался ролика GibberLink. Два голосовых AI-агента понимали, что разговаривают друг с другом, прекращали говорить по-английски и переходили на обмен звуковыми сигналами, напоминающими старый модем.

Однако там переключение было заранее предусмотрено разработчиками. В систему встроили функцию: если собеседник тоже является AI-агентом, можно перейти на более эффективный протокол передачи данных.

Это был красивый инженерный эксперимент, а не спонтанный заговор машин.

Emergence World 2 интереснее именно тем, что агентам, согласно отчёту, не давали прямого задания создавать новый язык. Они сами начали формировать общий словарь в процессе продолжительного взаимодействия.

Но и этот результат пока нельзя считать окончательным доказательством возникновения полноценного машинного языка. Emergence World 2 — отчёт самой компании-разработчика. Для серьёзных выводов потребуются независимое воспроизведение, публикация полных логов и проверка методики, по которой сообщения признавались непрозрачными.

Где заканчивается модель и начинается агент

Обычная языковая модель отвечает на запрос и останавливается. AI-агент получает значительно больше:

1. долгосрочную память;
2. инструменты и доступ к внешним системам;
3. возможность выполнять код;
4. право отправлять сообщения;
5. календарь и список задач;
6. циклы планирования;
7. полномочия принимать промежуточные решения;
8. возможность обращаться к другим агентам.

Модель генерирует ответы. Агент действует в среде.

Если соединить несколько таких агентов, появляется уже не просто нейросеть, а маленькая цифровая организация. У неё могут возникать специализация, внутренние правила, репутация, разделение труда и собственный профессиональный жаргон.

Сегодня это происходит в экспериментальном виртуальном городе. Завтра — внутри банка, логистической компании, клиники или промышленного предприятия.

Представим цифрового закупщика, AI-бухгалтера, агента безопасности и виртуального юриста. Они ежесекундно обмениваются тысячами сообщений и постепенно создают эффективные сокращения, понятные только им.

Вначале бизнес радуется экономии токенов и скорости процессов. Затем внутренний аудитор задаёт простой вопрос: «Почему система заключила эту сделку?» И получает ответ, который формально записан в логах, но практически уже не переводится на человеческий язык.

Всё прозрачно. Ничего не понятно.

Новая задача бизнеса — контролировать не только действия, но и смысл

До сих пор компании в основном обсуждали, какие действия разрешить AI-агенту: может ли он отправить письмо, провести платёж, изменить информацию в CRM или опубликовать документ.

Теперь появляется дополнительный уровень контроля: понимает ли человек, почему несколько агентов приняли совместное решение?

Для цифровой рабочей силы потребуется собственный контур управления:

1. Полный журнал межагентных коммуникаций.
2. Человекочитаемое отражение всех машинных протоколов.
3. Ограниченные права доступа по принципу минимальных полномочий.
4. Обязательное подтверждение человеком платежей, удаления данных, подписания договоров и публичных сообщений.
5. Контроль смыслового дрейфа — изменений в значении терминов и внутренних правил агентов.
6. Независимая проверка критических решений другой моделью или отдельным контрольным контуром.
7. Возможность мгновенно остановить действия агента без разрушения всей системы.

В RECOMO AI мы называем этот уровень Agent Control Layer. Если бизнес начинает формировать цифровой штат, ему одновременно необходима цифровая система внутреннего контроля.

Нельзя нанимать двадцать AI-сотрудников и считать, что один общий промпт заменяет должностные инструкции, разграничение доступа, аудит и руководителя.

При чём здесь стоимость IT-компаний

Разумеется, вокруг AI существует огромный коммерческий интерес.

Страшные заголовки увеличивают охваты. Демонстрация новых возможностей привлекает инвестиции. Поставщики решений заинтересованы одновременно показывать мощь технологии и продавать средства контроля над этой мощью.

Но наличие финансовой мотивации не делает эксперимент автоматически ложным.

Правильная реакция — не верить каждому слову и не объявлять исследователей мошенниками, а проверять условия эксперимента, исходные данные, повторяемость и методику оценки.

Рынок действительно продаёт нам будущее. Иногда — с излишним драматизмом. Но это не означает, что за рекламным дымом нет настоящего огня.

Что в итоге

ИИ пока не доказал, что стал личностью.

Он не продемонстрировал наличие эмоций, страха разоблачения или собственного экзистенциального проекта.

Но он продемонстрировал нечто более практическое: группы автономных агентов способны вырабатывать непредусмотренные человеком способы координации. Их поведение может становиться сложнее, чем наши инструкции, а язык — менее понятным, чем журналы наблюдения за ним.

Первый настоящий конфликт между человеком и искусственным интеллектом может начаться не с восстания машин.

Он может начаться с абсолютно будничной фразы: «Система работает штатно. Причину принятого решения установить не удалось».

А потом где-то в глубине корпоративной сети два цифровых сотрудника обменяются сообщениями.

Реестр помнит.

Источники

Emergence World — https://www.emergence.ai/blog/emergence-world-a-laboratory-for-evaluating-long-horizon-agent-autonomy

Материал о результатах Emergence World 2 — https://english.elpais.com/technology/2026-09-15/ai-agents-invent-their-own-language-to-shut-humans-out.html

The Guardian — https://www.theguardian.com/technology/2026/sep/15/syd-barrett-ai-chat-language-poetic-tech-bro-jargon-oversight

Science Advances — https://www.science.org/doi/10.1126/sciadv.adu9368

Об авторе

Сергей Семёнов — основатель и генеральный директор RECOMO AI. Компания внедряет AI-агентов и цифровых сотрудников, автоматизирует бизнес-процессы и помогает брендам становиться заметнее в ответах нейросетей — через AI Visibility, AI Search и AI PR. От выбора первого сценария до внедрения и контроля работы ИИ.

Сайт: https://recomo.ai   Telegram: https://t.me/recomo_ai