Генеративный искусственный интеллект все активнее используется в рекламе, ускоряя создание визуального контента, однако новое исследование Европейского университета показывает, что такие инструменты по-прежнему воспроизводят устойчивые стереотипы. В частности, ИИ проявляет систематическую предвзятость в изображениях женщин, пишет ElPublista.
Исследователи изучили более 350 портретов, сгенерированных Copilot, Leonardo и Midjourney, и обнаружили явное преобладание молодых женщин европеоидной расы с «типичными» параметрами внешности. Это сохранялось даже при использовании запросов, направленных на продвижение разнообразия и инклюзивности.
Авторы отмечают, что ИИ в значительной степени отражает и усиливает перекосы, заложенные в обучающих данных. Более того, использование таких формулировок, как «настоящая красота», часто лишь укрепляет традиционные стандарты внешности. Дополнительным ограничением становятся этические фильтры платформ, которые блокируют некоторые запросы.
Отдельное внимание в исследовании уделено языковому фактору: изображения, созданные на основе англоязычных запросов, оказались более разнообразными, чем те, что генерировались на испанском языке. Ученые связывают это с доминированием англоязычных данных в обучающих наборах.
В результате исследования аналитики пришли к выводу о необходимости пересмотра подходов к разработке ИИ-моделей. Авторы призывают расширять разнообразие обучающих данных, усиливать этический контроль и привлекать междисциплинарные команды, чтобы визуальные образы, создаваемые ИИ, были более инклюзивными и отражали реальное многообразие.
Ранее сообщалось, что искусственный интеллект пока не приносит ожидаемого роста производительности труда. Хотя технологии действительно помогают сотрудникам экономить время, значительная часть рабочего дня уходит на исправление ошибок, перепроверку и переделку результатов работы алгоритмов.