Коалиция генеральных прокуроров американских штатов направила 13 крупнейшим ИИ—компаниям, среди которых Microsoft, Google, OpenAI, Meta (признана в России экстремисткой и запрещена), Apple и Anthropic, предупреждение с требованием внедрить обязательные меры защиты от «бредовых» и психологически опасных ответов чат-ботов, пишет TechCrunch.
Прокуроры предупреждают, что игнорирование рисков для психического здоровья пользователей, включая случаи самоубийств и насилия, может нарушать законы штатов. В письме, подписанном десятками прокуроров, предлагаются ключевые меры:
- независимые аудиты крупных языковых моделей для выявления ошибок;
- право аудиторов тестировать модели до релиза;
- разработка и публикация «графиков выявления и реагирования на проявления подобострастия и бреда»;
- обязательные проверки безопасности перед запуском;
- ведение и публикация отчетов об инцидентах, связанных с заблуждениями и опасным контентом.
От компаний требуется «оперативно уведомлять пользователей», если они подверглись воздействию потенциально вредных, льстивых или вводящих в заблуждение материалов, по аналогии с уведомлением об утечке данных.
Документ выходит на фоне конфликта вокруг регулирования ИИ: штаты требуют жесткого надзора, в то время как администрация Трампа выступает против ограничений и готовит указ, который сузит полномочия штатов в этой сфере. Тем временем FTC расследует политику защиты детей в ИИ-сервисах.