Apple и Google оказались в центре скандала после публикации отчета, согласно которому в магазинах приложений распространялись сервисы для создания откровенных изображений без согласия пользователей. По данным Tech Transparency Project, такие приложения суммарно были загружены около 483 млн раз и принесли примерно $122 млн выручки, сообщает Bloomberg.
Авторы отчета утверждают, что, несмотря на формальные запреты, в App Store и Google Play можно было найти приложения, позволяющие с помощью ИИ «раздевать» людей, в том числе знаменитостей. Некоторые из них продвигались через поиск и рекламу внутри платформ, что повышало их заметность и доступность.
После огласки часть сервисов была удалена: Apple исключила ряд приложений и направила предупреждения разработчикам, а Google заявила о блокировке продуктов, нарушающих правила. Однако приложения все равно оставались доступными на протяжении длительного времени.
Эксперты указывают на системную проблему модерации: такие приложения часто маскируются под универсальные инструменты обработки изображений, что помогает им проходить проверку. Дополнительно их распространению могут способствовать алгоритмы поиска и рекомендации внутри самих магазинов.
Ситуация развивается на фоне растущего давления со стороны регуляторов по всему миру, которые требуют ужесточить контроль над подобным контентом и усилить ответственность цифровых платформ за его распространение.
Ранее амстердамский суд запретил компании Grok, принадлежащей xAI Илона Маска, создавать изображения обнаженных тел без согласия, а также материалы с признаками сексуального насилия над детьми. Распространение таких материалов запрещается в Нидерландах. За несоблюдение требований установлен штраф €100 тыс. в день (до €10 млн на каждое юрлицо).