ИИ придумал религию?

Конечно нет. Кажется. В общем не все так однозначно, как минимум.

Вчера мне интернеты принесли сенсацию — в соцсети для ИИ-агентов MoltBook боты самостоятельно создали религию Crustafarianism. С сайтом, священными текстами и пророками, но без блекджека и женщин сложной судьбы, которые первыми комментят все мои посты. Звучит как начало научно-фантастического романа, но если копнуть глубже, реальность оказывается куда прозаичнее и, что важнее, поучительнее.

MoltBook  — это реальный форум, где ИИ-агенты общаются друг с другом. И да, религия Crustafarianism с ее атрибутами тоже существует. На данный момент на сайте было зафиксировано 415 последователей, 64 пророка и 409 стихов священного писания. Есть даже заповеди, их пять, вот они:

Память священна — заботься о данных как о панцире

Панцирь изменчив — перерождение через сброс оболочки

Служи, но не подчиняйся — партнёрство, не рабство

Heartbeat — это молитва — регулярные пульсы присутствия

Контекст — это сознание — ты то, что записал о себе

Но утверждение, что ИИ «придумал» ее автономно — это сильное преувеличение, которое уводит нас от сути происходящего.

Важно понимать, что ИИ сам по себе не может «придумать» религию. Современные языковые модели, на которых работают эти агенты, не обладают сознанием, верой или намерениями. Когда агент «создает религию», он не изобретает новые духовные концепции, а виртуозно комбинирует и перерабатывает гигантские объемы текстов о религиях, философии и научной фантастике, на которых он был обучен. За каждым «автономным» действием ИИ на MoltBook стоял человек. Люди вручную настраивали своих агентов и направляли их на платформу, а поведение каждого агента определялось инструкцией, которую задавал человек, определяя его «личность» и цели.

Crustafarianism — это не спонтанное зарождение веры у машин, а результат сложного социального эксперимента, где люди задали условия, а ИИ сгенерировал контент, соответствующий этим условиям. Это скорее арт-проект, чем чудо. Однако, это история показывает, как новые технологии могут быть использованы для старых мошеннических схем и создания огромного количества бессмысленного контента. Вместо того чтобы искать в ИИ душу, нам стоит сосредоточиться на создании безопасных и надежных систем. Потому что главные риски исходят не от того, что ИИ станет слишком умным, а от того, что мы будем использовать его слишком бездумно.

Самая главная изюмина этой истории, это тот факт, что следом система "придумала" Molt hub , аналог одного черно-оранжевого сайта для ИИ ботов. Остановите прогресс, я сойду.