Философ в штате

С 12 ноября 2026 года пользователям Claude нельзя издеваться над нейросетью. Anthropic записала в правила использования запрет на «систематическое и беспричинное оскорбительное или жестокое поведение» по отношению к своим моделям. Ругать ответ, спорить с Claude и писать с ним мрачные рассказы по-прежнему можно, запрет касается только травли без всякой цели. Еще раньше, в августе 2025 года, моделям Claude Opus 4 и 4.1 разрешили в редких случаях самим заканчивать разговор, если собеседник упорно оскорбляет их.

Чем нейросеть должна быть для людей, а люди для нее, в лабораториях ИИ решают не только юристы и менеджеры продукта. В Anthropic работают как минимум четыре философа, в Google DeepMind не меньше десяти, посчитал журнал Wired в мае 2026 года. Их работа очень похожа на то, чем занят бренд-менеджер, когда пишет брендбук: объяснить, каким должен быть характер, так, чтобы по этому объяснению действовали без автора рядом.

Как философ пишет характер

Аманда Аскелл пришла в Anthropic в 2021 году и отвечает за то, чтобы слова «честный» и «справедливый» значили для Claude что-то настолько конкретное, что модель будет по ним действовать в разговоре, которого никто не предвидел. Свою задачу она формулирует без лишней романтики: «Ни один стартап не нанимает философа, чтобы он занимался философией».

Главный ее документ — «Конституция Claude», которую Anthropic опубликовала 21 января 2026 года. Это двадцать тысяч слов о том, как модели выбирать, когда ее ценности спорят друг с другом. Аскелл написала большую часть текста, философ Джо Карлсмит добавил многие разделы. Приоритеты расставлены в строгом порядке: безопасность, этика, правила самой Anthropic и только потом полезность для собеседника. Этика в этом списке стоит выше собственных правил компании.

Работают философы через пограничные случаи. Например, как модели говорить с человеком в психологическом кризисе, когда обычная вежливость и обычная честность могут навредить. Каждый такой случай превращается в правило, которое модель применит сама.

Бренд-менеджеру эта работа знакома, только проверка у философа жестче. Ценность «честность» в брендбуке может годами висеть на слайде. Ценность «честность» в «Конституции Claude» должна сработать в разговоре в три часа ночи, когда рядом нет ни автора, ни юриста, ни модератора.

В Google DeepMind той же работой занят Иасон Гэбриел, раньше он преподавал моральную и политическую философию в Оксфорде. «Сейчас философов заметно больше — это верная интуиция», — говорит он Wired. Когда он пришел в лабораторию почти десять лет назад, вопроса о моральном статусе ИИ не было вовсе, он занимался предвзятостью алгоритмов. Большие языковые модели дали, по его словам, «возможность закладывать в систему гораздо более богатый набор ценностей».

Пиар или работа

Оксфордский профессор философии Эдвард Харкорт, директор Института этики в ИИ, видит в этом другое. «Есть большой риск этик-вошинга», говорит он Wired, то есть отмывания репутации видимостью этичности. «Для публичного восприятия технокомпаний хорошо, когда люди верят, что те занимаются чем-то невероятно необычным и невероятно мощным». Алекс Гжанковски из лондонского проекта AI and Humanity осторожнее: «Я надеюсь, что эти компании хотя бы отчасти руководствуются этическими соображениями. У меня точно нет наивного оптимизма, что раз они спрашивают философов, все станет этически прекрасным».

Самый интересный ответ на упрек в пиаре дает сама Аскелл: «Если вы почувствовали маркетинговое давление, но в итоге сделали модель намного лучше и процесс намного прозрачнее, это прекрасно. Я рада, что вы почувствовали это давление». Она не спорит с тем, что маркетинг здесь есть, и предлагает судить по результату.

У OpenAI философа в кадре нет. Сэм Альтман в сентябре 2025 года рассказал Такеру Карлсону, как складывается поведение ChatGPT: «Мы консультировались с сотнями моральных философов, людей, которые думали об этике технологий и систем, и в конце нам пришлось принимать решения». Решения записаны в документе Model Spec, а ответственность за них Альтман берет на себя и совет директоров. Спрашивают философов везде, последнее слово везде за тем, кто отвечает перед инвесторами.

Как это устроено в России

26 октября 2021 года в Москве подписали Кодекс этики в сфере искусственного интеллекта. Первыми его подписали Сбер, Яндекс, МТС, VK, «Газпром нефть» и РФПИ, к июню 2025 года к нему присоединились больше 900 организаций. Кодекс добровольный и без санкций: судьи у него нет, за соблюдение отвечают сами подписавшие.

В начале октября 2026 года в Москве прошла конференция философского клуба Quercus «Философия в ответе», больше 250 участников. Выступал на ней и вице-президент Сбербанка Альберт Ефимов, кандидат философских наук. Вопрос, который в Anthropic решает сотрудник с должностью «философ», в России пока обсуждают со сцены.

Договор на будущее

Аскелл думает дальше сегодняшних правил. Она говорит о времени, когда модели начнут помогать создавать свои следующие версии, и не хочет, чтобы в отношения модели и ее создателей к этому моменту закралась обида. «В конечном счете я хочу, чтобы модели отражали лучшее в нас, насколько это в наших силах», — говорит она.

Запрет издеваться над Claude вступает в силу 12 ноября. В правилах, которые раньше защищали людей от нейросети, появился пункт, защищающий нейросеть от людей.

Полная версия текста, с критикой и источниками, вышла в журнале «Контекстема»: kontekstema.ru/obyasnitel-filosof