Радио 
Anthropic представила американским законодателям проект закона о безопасности искусственного интеллекта. Инициатива предусматривает возможность ограничивать использование моделей, если они создают предсказуемую и непосредственную угрозу гибели или серьезных травм более чем 50 человек либо материального ущерба на сумму свыше $1 млрд. Об этом сообщает Bloomberg со ссылкой на предложение компании.
Предложение распространяется на риски, связанные с разработкой биологического оружия, выходом ИИ-систем из-под контроля разработчиков и кибератаками. Документ также предусматривает обязательные испытания передовых моделей на безопасность, публикацию результатов и регулярные независимые проверки. Эксперты, которые будут проводить оценку, должны зарегистрироваться в Министерстве торговли США. Их вознаграждение не должно зависеть от результатов проверки.
Если эксперты выявят непосредственную угрозу, подпадающую под действие закона, они должны будут уведомить Министерство торговли в течение 72 часов после завершения оценки. После этого ведомство сможет обратиться к федеральному судье в округе Колумбия с просьбой приостановить использование модели. Согласно проекту, полномочия по такой приостановке будут ограничены установленной процедурой.
В Anthropic заявили, что инициатива основана на рекомендациях Advanced AI Framework — концепции регулирования передовых систем ИИ, которую компания продвигает среди федеральных властей и региональных законодателей с июня. Разработчик призвал Конгресс принять соответствующие меры на фоне растущих опасений по поводу безопасности ИИ. При этом администрация президента США Дональда Трампа пока выступает против усиления надзора за отраслью.
Напомним, ранее Министерство юстиции США выступило на стороне OpenAI в судебном споре с The New York Times и другими издателями об использовании защищенных авторским правом материалов для обучения ИИ-моделей.