Папа Римский Лев XIV выпустил документ Magnifica Humanitas («Великолепное человечество»), посвященный рискам искусственного интеллекта. Ватикан сравнил современную технологическую гонку с новой Вавилонской башней, способной усилить неравенство, размыть понятие истины и превратить человека в набор данных.
Документ приурочен к 135-летию энциклики Rerum Novarum Льва XIII. Новый текст фактически обозначает претензию Ватикана на роль одного из главных моральных арбитров в дискуссии о будущем технологий, пишет Axios.
Главная мысль понтифика — искусственный интеллект не является нейтральным инструментом. По словам Льва XIV, ИИ отражает интересы и ценности тех, кто его разрабатывает, финансирует и внедряет. Особенно опасно это становится в сферах, где алгоритмы принимают решения о трудоустройстве, кредитах, доступе к услугам или общественной репутации человека.
В энциклике перечислено пять ключевых угроз.
- Ослабление человеческого мышления. ИИ предлагает быстрые готовые ответы и может снижать способность человека к критическому мышлению, творчеству, анализу и самостоятельному поиску истины.
- Подмена живого общения искусственной эмпатией. Люди рискуют начать воспринимать чат-ботов и цифровых помощников как замену дружбе, заботе и психологической поддержке, теряя ценность реальных человеческих отношений.
- Рост социального неравенства. Контроль над данными, вычислительными ресурсами и ИИ-платформами сосредотачивается у ограниченного круга крупных корпораций и государств, что усиливает дисбаланс влияния и возможностей.
- Угроза демократии и правде. Искусственный интеллект способен масштабировать дезинформацию, дипфейки и манипуляции, размывая границу между фактом и вымыслом.
- Автоматизация войны. ИИ ускоряет принятие боевых решений и снижает уровень человеческой ответственности при применении силы. Папа Лев XIV отдельно подчеркнул: «Ни один алгоритм не может сделать войну морально приемлемой».
Напомним, Папа Лев XIV запретил священникам использовать ИИ для написания проповедей и для получения «лайков» в социальных сетях, таких как TikTok. Принятые Ватиканом правила запрещают применение ИИ для манипуляций, дискриминации и любых действий, угрожающих безопасности данных или человеческому достоинству.