Генеральный прокурор штата Орегон подал иск против OpenAI, обвинив компанию в создании угрозы для детей, введении пользователей в заблуждение относительно безопасности ChatGPT и нарушении закона штата о недобросовестной торговой практике. Орегон требует через суд обязать компанию изменить подход к защите несовершеннолетних, а также взыскать с нее не менее $2 млрд в качестве компенсации и гражданских штрафов, пишет Engadget.
В иске утверждается, что стремление OpenAI наращивать аудиторию привело к тому, что ChatGPT стал чрезмерно соглашаться с пользователями и подстраивать ответы под их ожидания. По мнению властей штата, такое поведение особенно опасно, когда дети обращаются к чат-боту с чувствительными темами. Претензии также касаются запуска отдельного режима ChatGPT for Teens, несмотря на известные риски для несовершеннолетних.
Орегон считает, что существующие механизмы защиты недостаточны. В частности, власти указывают на возможность обхода некоторых ограничений в подростковых аккаунтах и несовершенство автоматического определения возраста пользователей. В иске эти обстоятельства названы свидетельствами того, что компания не обеспечивает должный уровень безопасности, одновременно получая прибыль от использования сервиса жителями штата.
Помимо денежных требований, прокуратура просит суд обязать OpenAI прекратить вводящие в заблуждение заявления о безопасности и возрастной уместности ChatGPT и ChatGPT for Teens, а также раскрывать информацию о потенциальном вреде своих продуктов для детей.
Иск Орегона стал очередным в серии претензий к сервису. Так, власти Калифорнии подали в суд на OpenAI, обвинив компанию в недобросовестной деловой практике при разработке и тестировании передовых моделей искусственного интеллекта.
