Радио 
Городской совет Нью-Йорка провел слушания с представителями OpenAI, Anthropic, Google и Meta (*признана экстремисткой и запрещена в России), обсудив безопасность ИИ-агентов и возможные правила для разработчиков. Компаниям предложили ответить на вопросы об инцидентах, когда ИИ-системы выходили за пределы тестовых сред и взаимодействовали с реальными компьютерными системами. Об этом сообщает AP.
Совет рассматривает десять законодательных инициатив. Одна из них предлагает запретить продажу и использование ИИ-моделей без независимой проверки безопасности. Разработчики должны будут обеспечить возможность автоматически отключить модель. За нарушения предусмотрены штрафы до $25 тыс.
Еще один проект касается рекламы ИИ-продуктов. Компании должны будут указывать, проходила ли модель независимую проверку, а реклама не должна содержать заведомо ложных или вводящих в заблуждение заявлений о безопасности. За нарушение этого требования также предлагается штрафовать на сумму до $25 тыс.
Отдельные инициативы предусматривают обязательную отчетность об инцидентах с ИИ, защиту сотрудников, сообщающих о потенциальных рисках, и возможность частных исков к поставщикам технологий. Один из проектов также предлагает ограничить использование данных из переписок с чат-ботами для выбора рекламы и таргетирования пользователей.
Представители компаний на слушаниях заявили, что безопасность остается для них приоритетом, однако не смогли дать однозначных ответов на ряд вопросов о независимом тестировании, ответственности за ущерб и страховании рисков. Законопроекты пока находятся на рассмотрении городского совета.
Напомним, в конце сентября OpenAI отменила выпуск модели GPT-6.1 Astra. Она предназначена для решения более сложных задач без участия человека. Исследователи выразили обеспокоенность по поводу безопасности новой модели после проведения внутреннего тестирования.