Радио 
Четыре правозащитные организации обратились в Верховный суд Сан-Франциско с иском против пяти технологических компаний. Они утверждают, что развитие ИИ без достаточных механизмов контроля создает угрозы для общества, включая кибератаки, создание биологического оружия и потерю контроля над автономными системами. Об этом сообщает MediaPost.
Истцы требуют запретить компаниям, в числе которых OpenAI, Anthropic, Google, Meta (признана экстремистской и запрещена в РФ) и SpaceX, прекратить разработку технологий искусственного интеллекта. разрабатывать и внедрять модели, более совершенные, чем их самые совершенные системы, а также использовать ИИ для автономного создания более продвинутых моделей.
В качестве аргументов организации приводят исследование Anthropic 2025 года, в котором проверялось поведение ИИ-моделей в ситуациях, когда человек препятствует достижению их целей. В ходе симуляций большинство протестированных систем демонстрировали готовность к действиям, которые могли привести к гибели человека.
Истцы также ссылаются на заявление Anthropic для американской Комиссии по ценным бумагам и биржам (SEC), в котором компания предупредила, что страховые полисы могут оказаться недостаточными для покрытия ущерба от катастрофических инцидентов, связанных с ИИ.
Ранее Anthropic представила американским законодателям проект закона о безопасности искусственного интеллекта. Инициатива предусматривает возможность ограничивать использование моделей, если они создают предсказуемую и непосредственную угрозу гибели или серьезных травм более чем 50 человек либо материального ущерба на сумму свыше $1 млрд.