Недавно для одного из рабочих проектов мне понадобилась иллюстрация. Запрос к популярной нейросети был максимально простым: «успешный топ-менеджер проводит презентацию нового продукта». Нажимаю кнопку «Сгенерировать», ожидая увидеть современную, уверенную в себе женщину. Но ИИ выдаёт четыре картинки, и на каждой из них — белый мужчина средних лет в идеальном костюме.
Из любопытства я меняю запрос на «руководитель отдела», затем на «ведущий учёный» — результат тот же. Зато по запросу «ассистент» или «социальный работник» результат был: исключительно женские лица.
Мы привыкли думать об искусственном интеллекте как о беспристрастном арбитре. Робот не обладает чувствами, у него нет плохого настроения, он не рос в патриархальной среде и не слышал стереотипов в духе «не женское это дело». Кажется, что передача решений алгоритмам — это самый прямой путь к абсолютному равенству.
Но мой маленький эксперимент с визуалами — лишь верхушка айсберга. Если заглянуть «под капот» самым передовым технологиям, окажется, что цифровое будущее стремительно копирует худшие шаблоны нашего прошлого. Борьба за права женщин переместилась с площадей в строки программного кода, и нам нужно учиться с этим работать.
Зеркало с дефектом: откуда у ИИ гендерные предрассудки?
Принцип работы любой большой языковой или визуальной модели можно описать старой ИТ-формулой: «Мусор на входе — мусор на выходе» (Garbage in, garbage out). Чтобы ИИ научился генерировать тексты или изображения, в него «скармливают» колоссальные массивы данных из интернета — оцифрованные книги, статьи, форумы, Википедию и посты в соцсетях за последние десятилетия.
Алгоритм не понимает сути явлений и не знает, что такое справедливость. Он просто ищет статистические закономерности и связи между словами. Если в терабайтах прочитанных им текстов слово «директор» чаще встречается в связке с местоимением «он», а «няня» или «секретарь» — с местоимением «она», ИИ делает однозначный вывод: таков закон этой вселенной. И когда мы просим его создать образ профессионала, он просто копирует этот стереотип.
Цифры и кейсы, которые заставляют задуматься
Это не теоретическая проблема из области философии — алгоритмическая предвзятость (algorithmic bias) уже сегодня напрямую влияет на жизни миллионов женщин, создавая для них новые, цифровые барьеры.
-
Скандал с наймом в Amazon. Еще в середине 2010-х компания создала ИИ для автоматической оценки резюме соискателей. Алгоритм обучали на базе успешных кейсов компании за 10 лет. Поскольку большинство сотрудников в сфере IT были мужчинами, робот сам вывел правило: кандидаты-мужчины предпочтительнее. Система начала автоматически занижать баллы резюме, в которых встречалось слово «женский» (например, «капитан женской сборной по шахматам») и выпускницам исключительно женских колледжей. Проект пришлось срочно закрыть.
- Трудности перевода. В языках, где есть гендерно-нейтральные местоимения (например, английском they), алгоритмы перевода часто принимают сексистские решения. Фразу «They is a doctor. They is a nurse» переводчики упорно переводят как «Он доктор. Она медсестра», ориентируясь на «статистическую норму» патриархального мира.
Для нас, беларусок, активно штурмующих сферу IT, маркетинг, медиа и управления, это означает появление нового «стеклянного потолка». Вас может отсеять алгоритм еще до того, как ваше резюме увидит живой HR-специалист — просто потому, что ваш карьерный трек или лингвистические маркеры не совпали с «мужским стандартом», зашитым в систему.
Почему алгоритмы соцсетей пессимизируют женские темы?
Еще одна зона невидимой дискриминации, с которой мы постоянно сталкиваемся в медиапространстве — это модерация контента. Алгоритмы безопасности крупных платформ обучаются на жалобах пользователей. Если активистский контент, тексты о домашнем насилии, бодипозитиве или репродуктивных правах подвергаются массовым атакам со стороны хейтеров, ИИ делает вывод: этот контент «вызывает токсичную реакцию».
В результате блогерки и просветительские проекты регулярно сталкиваются с «теневым баном» (shadowbanning). Алгоритм начинает реже показывать их посты в ленте, распознавая феминистскую лексику или обсуждение специфически женского опыта как нечто потенциально опасное или нежелательное. При этом откровенно объективирующий контент продвигается системой, так как он собирает быстрые клики.
Это подтверждают и сухие факты: масштабные исследования правозащитников из Amnesty International и экспертные доклады движений вроде CensHERship доказывают, что алгоритмы соцсетей систематически пессимизируют публикации на "женские темы". Обычные медицинские или просветительские посты о менопаузе, репродуктивном здоровье, контрацепции или борьбе с насилием ИИ-модераторы ошибочно маркируют как "контент для взрослых" или "токсичные обсуждения", урезая их охваты и отправляя авторок в теневой бан.
Цифровая грамотность
Зачем нам, беларускам, знать, как устроены нейросети? Чтобы перестать воспринимать ответы искусственного интеллекта как истину в последней инстанции и научиться им управлять.
Включаем критическое мышление. Когда чат-бот выдает вам аналитическую справку, список рекомендаций или план для проекта, помните: он транслирует усредненное мнение интернета, в котором до сих пор сильны стереотипы. Перепроверяйте его выводы и сомневайтесь в его «объективности».
Вламываемся в шаблоны (промпт-инжиниринг). Мы можем сознательно переучивать систему в рамках своих диалогов. Заставляйте ИИ выходить за рамки: пишите в запросах «напиши статью от лица женщины-эксперта», «сгенерируй изображение женщины-архитектора». Так мы меняем локальную статистику алгоритма.
Создаем свой контент. Чем больше качественных, экспертных текстов о женском опыте, лидерстве и достижениях на русском и белорусском языках будет появляться в сети, тем больше правильных данных получат будущие модели ИИ при обучении.
Борьба за равенство больше не ограничивается законами и социальными инициативами. Сегодня она идет в датасетах и алгоритмах. Понимание того, как цифровой мир пытается загнать нас в старые рамки — это первый шаг к тому, чтобы переписать этот код под себя. Не позволяйте алгоритмам решать, кем вам быть.
Добро пожаловать в реальность!