Google приостанавливает способность Gemini генерировать людей после многочисленных «проснувшихся» неточностей

После спора, который разгорелся ранее на этой неделе, когда пользователи поняли, что новый чат-бот Google с искусственным интеллектом Gemini генерирует антиисторические и неточные изображения — например, изображая отцов-основателей США черными, а собственный дуэт основателей Google — азиатами, — компания объявила сегодня, что временно приостанавливает возможности ИИ. полностью генерировать изображения людей.

Ранее Google заявлял, что работает над решением проблем, поднятых пользователями, и планирует восстановить эту функцию позже.

Что пошло не так с Близнецами?

Судя по скриншотам взаимодействий, которыми поделились технологические лидеры, писатели и обычные пользователи Gemini, чат-бот генерирует изображения цветных людей и людей разных национальностей даже в тех случаях исторического контекста, где они неприменимы, например, при создании чернокожих пап-католиков (никогда такого не было). был одним из них), придавая викингам темную кожу (у большинства ее не было) и заставляя нацистских немецких солдат выглядеть азиатами (у большинства это не так).

Модели искусственного интеллекта, генерирующие изображения, часто настраиваются так, чтобы избежать предвзятости и сосредоточиться на разнообразии, но стандартные генерации Gemini неточно широкого разнообразия заставили многих обсуждать подход Google к предвзятости, а многие другие высмеивали, критиковали и троллили компанию.

В ответ на шквал сообщений, отмечающих проблему, старший директор по продуктам Google Джек Кравчик обратился к X, подтвердив наличие проблемы и то, что компания работает над ее решением.

Он сказал, что компания настроит используемую модель с учетом исторических нюансов, но продолжит концентрироваться на разнообразии открытых подсказок, таких как человек, выгуливающий собаку, чтобы отразить глобальную базу пользователей.

«В рамках наших принципов искусственного интеллекта… мы разрабатываем возможности создания изображений, отражающие нашу глобальную базу пользователей, и мы серьезно относимся к представительству и предвзятости», — написал Кравчик в своем посте.

Тем не менее, проблема вызвала лавину критики со стороны пользователей и видных технологических лидеров, включая венчурных капиталистов. Марк Андриссен и Пол Грэм, и поднял более широкую дискуссию о том, можно ли доверять чат-ботам с искусственным интеллектом, таким как Gemini, в том, что они правдивы, или же они чрезмерно придирчивы во имя современных стандартов разнообразия и равенства. Эта проблема вышла даже за пределы технологической индустрии, попав на первую полосу местной газеты Нью-Йорка. Нью-Йорк Постсегодня:

Google не ожидал «эры Близнецов»

Хотя Google продолжает работать над решением проблемы, важно отметить, что это не первый случай, когда Gemini попадает в заголовки газет по совершенно неверным причинам.

Компания представила семейство моделей Gemini после большой шумихи в декабре 2023 года и с тех пор стремится вывести «эру Gemini» на передний план. Google продвигал Gemini как ведущую модель искусственного интеллекта, сравнимую, а в некоторых случаях и превосходящую OpenAI GPT-4 (которая лежит в основе ChatGPT).

Но вскоре после запуска его раскритиковали за выпуск постановочного видео, в котором ошибочно преувеличены возможности Gemini в качестве интеллектуального цифрового помощника, способного вести сложные разговоры и помогать в повседневных задачах, а обзор независимых исследователей показал, что Gemini на самом деле хуже, чем старый LLM OpenAI. , ГПТ-3,5.

Ранее в этом месяце компания переименовала чат-бота Bard в Gemini, запустив расширенную версию для платных подписчиков, и даже провела ребрендинг и перезапустила Duet AI в Gemini для Workspace.

Новые версии Gemini, 1.5 и Advanced, обещали быть намного мощнее. Неофициальные примеры пользователей указывают, что последняя версия чат-бота действительно обладает впечатляющими возможностями, особенно с видеоанализом и подведением итогов, а также анализ многочисленных документов используя его чрезвычайно длинный контекст. Однако эти возможности могут быть омрачены нынешними и продолжающимися спорами.

Кравчик написал, что выявление проблем, таких как неточная генерация изображений, помогает в процессе согласования — итерации обратной связи. Однако, если проблемы будут возникать регулярно, гиганту под руководством Сундара Пичаи будет сложно доказать, что Gemini превосходит предложения искусственного интеллекта другого поколения.