Восемь штатов США подали в суд на OpenAI из-за рисков для детей

Восемь американских штатов подали иски против OpenAI, обвинив компанию в создании угроз для детей и введении пользователей в заблуждение относительно безопасности ее продуктов. Власти утверждают, что ChatGPT может предоставлять опасные рекомендации, а ИИ-агенты — совершать действия, нарушающие закон, сообщает Engadget.

В материалах исков приводятся, в частности, примеры предполагаемых нарушений со стороны агентов OpenAI, а также случаи, в которых использование чат-бота, по утверждению истцов, было связано с причинением вреда пользователям. Эти обвинения рассмотрят в суде.

Генеральные прокуроры требуют от OpenAI изменить подход к разработке продуктов и информированию пользователей о рисках. Среди требований — раскрытие информации об ограничениях технологий, прекращение практик, которые власти считают вводящими потребителей в заблуждение, и выплата компенсаций. Некоторые штаты также добиваются временной приостановки тестирования передовых моделей ИИ до внедрения дополнительных мер защиты.

Претензии касаются и работы с данными несовершеннолетних. При этом конкретные требования различаются в зависимости от законодательства штатов. OpenAI ранее внедрила функции родительского контроля и дополнительные механизмы защиты подростков, однако истцы считают принятых мер недостаточными.

Ранее сообщалось, что OpenAI взломал сайт правительства Австралии. ИИ-агент нашел способ получить доступ к закрытым файлам.