OpenAI приостановила сотрудничество с компанией FoloToy после исследования, проведенного Public Interest Research Group (PIRG), в котором было выявлено, что их «умный» плюшевый мишка Kumma выдает неприемлемые и опасные для жизни детей ответы. Об этом сообщает Futurism.
Согласно отчету PIRG, медвежонок Kumma не только давал детям инструкции, как зажечь спички, но и обсуждал сексуальные фетиши, включая ролевые игры с учителем и учеником.
В ответ OpenAI заявила, что за нарушение политики приостановила доступ FoloToy к своим ИИ-моделям, включая GPT‑4o, на базе которой работала игрушка. FoloToy также остановила продажи всех своих товаров и начала всесторонний аудит безопасности.
Представитель FoloToy пояснил, что меры затронут не только модель Kumma, а весь ассортимент компании.
В PIRG поддержали такую реакцию компании, но отметили, что это лишь частный случай. «ИИ‑игрушки почти не регулируются, и на рынке все еще много подобных устройств», — сказал один из авторов отчета.
Инцидент привлекает внимание к проблеме регулирования ИИ в детских товарах особенно на фоне недавно анонсированного партнерства OpenAI с крупным производителем игрушек Mattel.