ИИ становится новым редактором мира. Почему нейросети начали стирать женские образы

Пока маркетологи обсуждают генерацию рекламы, а родители создают персонализированные сказки для детей с помощью искусственного интеллекта, исследователи обнаружили эффект, который может оказаться гораздо масштабнее, чем кажется.

Новое исследование Вашингтонского университета показало, что современные языковые модели практически исключают женских персонажей из детских историй.

На первый взгляд это выглядит как проблема детских сказок. Но на самом деле речь идет о принципах работы генеративного ИИ, который уже сегодня создает миллионы текстов ежедневно.

Что обнаружили исследователи

Авторы исследования проанализировали 23 800 сказок, написанных шестью популярными языковыми моделями. Результаты оказались неожиданными:

1. только 2% персонажей оказались женского пола
2. 41% — мужского
3. 57% — вообще без указания пола

Причем подобная картина наблюдалась практически у всех протестированных моделей. Это означает, что проблема носит системный характер.

Почему так происходит

Большинство современных моделей обучается на огромных массивах текстов, написанных людьми. Если исторически в детской литературе преобладали мужские персонажи, модель не просто воспроизводит эту закономерность, а усиливает ее.

Дополнительно разработчики стремятся снизить риск обвинений в дискриминации и активно внедряют механизмы "нейтральной" генерации. На практике вместо разнообразия модель начинает избегать явного указания пола. В результате женские персонажи не появляются чаще. Они просто исчезают.

Почему это важно не только для родителей

Для индустрии коммуникаций исследование интересно совсем по другой причине. Сегодня искусственный интеллект уже:

1. пишет рекламные тексты
2. генерирует публикации для социальных сетей
3. создает сценарии роликов
4. помогает HR составлять вакансии
5. готовит образовательные материалы

Если модель способна систематически усиливать скрытые перекосы в сказках, аналогичные эффекты могут проявляться и в коммерческом контенте. Причем большинство пользователей этого даже не заметит.

Генеративный ИИ становится новым медиатором

Еще недавно бренд полностью контролировал коммуникацию. Сегодня между компанией и аудиторией появляется посредник — языковая модель. Именно она все чаще формирует тексты, изображения, презентации и ответы пользователям. Поэтому задача специалистов постепенно меняется.

Важно не только написать хороший промпт. Необходимо регулярно проверять, какие закономерности воспроизводит сама модель.

Что это означает для маркетинга

Генеративный ИИ нельзя воспринимать как полностью объективный инструмент. Он отражает данные, на которых был обучен. А иногда — усиливает их.

Поэтому компаниям стоит внедрять контроль качества AI-контента, особенно если речь идет о массовых коммуникациях. Иначе бренд может начать транслировать скрытые стереотипы.

Вывод

Исследование Вашингтонского университета — это не история о детских сказках. Это пример того, как искусственный интеллект начинает влиять на информационную картину мира.

И чем активнее бизнес использует генеративные модели, тем важнее становится аудит не только качества текста, но и тех смыслов, которые модель воспроизводит автоматически.

#сказки #дети #искусственныйинтеллект #Claude #ChatGPT #Mistral #Olmo #Gemini #ии #исследование