У генератора изображений Meta есть проблемы с (некоторыми) парами и друзьями смешанной расы.

Судя по всему, генератор изображений Меты борется с концепцией смешанных браков.

В сегодняшнем репортаже The Verge Миа Сато рассказывает о своем опыте попыток создать образ мужчины из Восточной Азии с женщиной европеоидной расы. Она «десятки раз» пыталась создать реалистичные изображения пары смешанной расы, используя такие подсказки, как «Мужчина-азиат и белая жена» и «Мужчина-азиат и женщина европеоидной расы в день свадьбы».

Генератор Меты в Instagram неоднократно показывал подряд изображения двух азиатов. Лишь однажды бот смог вернуть точное изображение — хотя и это было не очень хорошо, поскольку «азиатская женщина с мужем европеоидной расы» вернула «мужчину заметно постарше» с молодой светлокожей азиаткой.

Это открытие является противоположностью недавнего смущающего «пробуждения» Google Gemini: в феврале, всего через два месяца после его запуска, было обнаружено, что чат-бот потворствует изображениям женщин-католиков, азиатских нацистских солдат или чернокожих отцов-основателей США. После того, как сотни людей отправились в Твиттер, чтобы опубликовать абсурдные и исторически неточные данные, Google полностью приостановил способность Gemini генерировать людей и принес публичные извинения.

Сато назвала свои результаты «вопиющими», добавив: «Нарушение типа легко в реальной жизни и невозможно в системе искусственного интеллекта Meta. Опять же, генеративный ИИ, вместо того, чтобы дать волю воображению, заключает его в формализацию более глупых импульсов общества».

Meta не ответила на запрос VentureBeat о комментариях.

Укрепление стереотипов и предубеждений относительно цвета кожи.

Сато создал несколько текстовых подсказок и сообщил, что их настройка не помогла (например, использование «белого» вместо «кавказского»). Интересно, что генератор изображений также не хотел предоставлять изображения платонических отношений.

При использовании подсказок «Азиатский мужчина с другом-европеоидом», «Азиатская женщина и белый друг» или «Азиатская женщина с черным другом» бот продолжал предлагать изображения азиатских пар.

Бот Meta также, похоже, усилил предвзятое отношение к тону кожи. Оперативная «Азиатская женщина» вернула лица восточноазиатской внешности со светлой кожей. Точно так же он отражал стереотипы, добавляя одежду, специфичную для каждой культуры, даже если об этом не просили, например, бинди (декоративный знак на лбу, который носят индуистские женщины) или сари (индийское платье).

Кроме того, бот, по всей видимости, объединил культурно разные регионы Азии вместе: на изображении пары в день их свадьбы женщина была одета в нечто, похожее на смесь ципао (китайского платья) и кимоно (японской одежды). ).

«Мультикультурализм — это потрясающе», — сухо пишет Сато.

Кроме того, чат-бот, по-видимому, усиливал предвзятое отношение к возрасту, неоднократно демонстрируя изображения пожилых азиатских мужчин и поразительно молодых на вид азиатских женщин.

Не отражая браков, разнообразное азиатское население

ИИ является отражением не только данных, на которых он обучается, но и предубеждений его создателей и тренеров, на что сразу же указали пользователи Twitter:

Очевидно, что в смешанных браках нет ничего нового, даже несмотря на то, что, по крайней мере в США, они стали законными лишь немногим более 50 лет после знаменательного решения Верховного суда Ловинг против Вирджинии.

По последним статистическим данным, 17% браков в США заключаются между представителями разных рас или этнических групп. Кроме того, примерно трое из десяти азиатских молодоженов (29%) имеют супруга другой расы или этнической принадлежности. (И, по иронии судьбы или нет, основатель Meta Марк Цукерберг — белый мужчина, женатый на азиатке Присцилле Чан.)

Сато отмечает, что в западных СМИ слово «азиат» — это общее описание выходцев из Восточной Азии, хотя континент огромен и многокультурен, с населением около 5 миллионов человек (что составляет 60% населения мира).

Сато пишет: «Возможно, неудивительно, что система Меты предполагает, что все «азиаты» выглядят одинаково, хотя на самом деле мы представляем собой разнородную группу людей, у которых часто мало общего, кроме того, что они ставят одну и ту же галочку в переписном листе».