Радио 
Компания Anthropic, разработчик ИИ-ассистента Claude, призвала участников рынка заранее согласовать механизм временной остановки разработки передовых систем искусственного интеллекта, сообщает The Guardian.
В компании считают, что отрасль должна быть готова к сценарию, при котором возможности ИИ начнут развиваться быстрее, чем инструменты контроля и обеспечения безопасности. Речь идет не о немедленном моратории, а о создании согласованных процедур на случай возникновения критических рисков.
Одной из потенциальных угроз Anthropic называет так называемое рекурсивное самоулучшение — ситуацию, когда ИИ сможет самостоятельно создавать более совершенные версии самого себя. По мнению компании, такой сценарий способен резко ускорить развитие технологии и усложнить ее регулирование.
Anthropic предлагает крупнейшим разработчикам ИИ, правительствам и международным организациям заранее определить условия, при которых может потребоваться временная пауза в разработке, а также создать механизмы контроля за соблюдением таких договоренностей.
В компании подчеркивают, что подобные меры будут работать только при участии всех ключевых игроков рынка. Если ограничения введет одна лаборатория, а остальные продолжат наращивать мощности, это лишь изменит расстановку сил в отрасли, но не снизит потенциальные риски.
Заявление Anthropic прозвучало на фоне продолжающейся конкуренции между разработчиками генеративного ИИ. Компании инвестируют миллиарды долларов в создание более производительных моделей, а вопросы безопасности и регулирования становятся одной из главных тем для индустрии.
Ранее Anthropic неоднократно выступала за усиление контроля над развитием искусственного интеллекта. Однако нынешняя инициатива стала одним из самых заметных призывов со стороны крупного игрока рынка к созданию механизма возможной остановки разработки наиболее мощных ИИ-систем.