Амстердамский суд запретил компании Grok, принадлежащей xAI Илона Маска, создавать изображения обнаженных тел без согласия, а также материалы с признаками сексуального насилия над детьми. Распространение таких материалов запрещается в Нидерландах. За несоблюдение требований установлен штраф €100 тыс. в день (до €10 млн на каждое юрлицо).
Поводом обращения в суд послужило внедрение в декабре 2025 года функции редактирования изображений в Grok, интегрированной в X. По материалам дела, за первые 11 дней инструмент мог сгенерировать миллионы изображений сексуализированного характера, включая потенциально незаконный контент. Несмотря на заявленные компанией меры защиты и ограничения, суд счел доказанным то, что функциональность позволяла обходить фильтры и создавать подобные материалы.
Суд опирался на европейский регламент по защите данных, указав, что обработка изображений реальных людей без согласия нарушает право на приватность, а содействие созданию запрещенного контента — общественные нормы. При этом запрет распространяется как на разработчика технологии, так и на оператора платформы, если такая функциональность остается доступной пользователям.
Ранее Еврокомиссия уже начала расследование против X в рамках Digital Services Act, проверяя оценку и управление системными рисками при запуске функций генеративного ИИ.