Калифорния стала первым штатом США, принявшим закон, регулирующий использование ИИ-чат-ботов. Документ, подписанный губернатором Гэвином Ньюсомом, вступит в силу 1 января 2026 года. Он направлен на защиту детей и «уязвимых пользователей» от потенциальных рисков при взаимодействии с чат-ботами. Об этом сообщает TechCrunch.
Согласно новому закону, компании обязаны внедрить механизмы возрастной верификации и не допускать того, чтобы чат-боты давали медицинские рекомендации. Кроме того, владельцы ИИ-ассистентов должны будут напоминать несовершеннолетним пользователям о необходимости делать перерывы при использовании сервиса и скрывать от них изображения сексуального характера.
Закон также вводит строгие меры ответственности за распространение нелегальных дипфейков, включая штрафы до $250 тыс. за каждое нарушение. Еще компании будут обязаны предоставлять статистику о том, как их сервисы направляют пользователей в кризисные центры и уведомляют о рисках суицида.
Напомним, что нормы были приняты после трагических инцидентов, включая смерть подростка, который покончил с собой после серии разговоров с ChatGPT. Также были выявлены случаи, когда чат-боты Meta (признана экстремистской и террористической организацией в России) вели «романтические» беседы с детьми. Эти события привлекли внимание к необходимости регулирования ИИ-ассистентов.
Некоторые компании уже начали внедрять меры безопасности. OpenAI, например, запустила родительский контроль, системы защиты контента и обнаружения самоповреждений для детей, использующих ChatGPT. Replika, ориентированная на взрослых пользователей, заявила о выделении значительных средств на системы фильтрации контента.