Радио 
Администрация США ввела ограничения на использование новейших моделей искусственного интеллекта компании Anthropic после того, как глава Amazon Энди Джесси обсудил с чиновниками вопросы их безопасности, сообщает The Wall Street Journal.
Специалисты Amazon во время тестирования одной из новых моделей Anthropic обнаружили способы обхода встроенных защитных механизмов. Как утверждается, модель могла предоставлять информацию, способную облегчить проведение кибератак.
После этого Джесси довел результаты проверки до сведения представителей американских властей. В обсуждении участвовали высокопоставленные чиновники, курирующие вопросы экономики и национальной безопасности.
В результате администрация потребовала от Anthropic устранить выявленные проблемы, а затем ввела дополнительные ограничения на доступ к передовым моделям компании. Власти объяснили свое решение соображениями национальной безопасности.
Ситуация вызвала резонанс в отрасли, поскольку Amazon является одним из крупнейших инвесторов Anthropic и стратегическим партнером разработчика. Компании связывают многомиллиардные соглашения в области облачных вычислений и искусственного интеллекта. В Anthropic заявили, что выявленные методы обхода защит не являются уникальными для их продуктов и встречаются у многих современных ИИ-моделей. Компания также считает, что масштабы проблемы были преувеличены.
Аналитики отмечают, что история может стать поворотным моментом для рынка искусственного интеллекта. Если раньше экспортные ограничения США касались преимущественно полупроводников и вычислительного оборудования, то теперь под регулирование все чаще попадают сами ИИ-модели.