OpenAI будет управлять группой аутентификации контента C2PA и маркировать видео Sora как AI

Одно из нескольких громких заявлений, сделанных сегодня единорогом генеративного ИИ OpenAI, заключается в том, что он присоединяется к «руководящему комитету» торговой группы под названием «Коалиция за происхождение и аутентичность контента» (C2PA), основанной еще в феврале 2021 года Microsoft и Adobe (включая Arm). , BBC, Intel и Truepic среди первых членов).

Почему? OpenAI заявляет, что делает это, чтобы «помочь людям проверять инструменты, используемые для создания или редактирования многих видов цифрового контента», а также создать «новую технологию, которая конкретно помогает людям идентифицировать контент, созданный нашими собственными инструментами».

Другими словами: OpenAI хочет работать с другими компаниями в этой области, включая своих конкурентов, над разработкой инструментов и технологий для маркировки изображений, видео и другого контента, созданных ИИ, что позволит зрителям отследить их источник и избежать путаницы. им для съемки и фотографий из реального мира.

Что такое C2PA и что он делает?

Организация C2PA, действующая в рамках некоммерческого Фонда совместного развития, занимается «разработкой технических спецификаций для установления происхождения и аутентичности контента».

За три с половиной года с момента запуска к ее руководящему комитету присоединились и другие крупные компании в области технологий и искусственного интеллекта, включая Google. Группа выпустила ряд технических стандартов с открытым исходным кодом, которые разработчики и компании могут реализовать в своих продуктах. проясните, откуда берется контент, создаваемый моделями искусственного интеллекта или другими инструментами.

Среди этих стандартов — «архитектура C2PA; модель хранения и доступа к криптографически проверяемой информации, надежность которой можно оценить на основе определенной модели доверия».

Архитектура C2PA уже была принята и использована членами организации для создания «Учетных данных контента» — удобного для Интернета водяного знака, обозначаемого небольшим значком «CR» в правом верхнем углу некоторых изображений, на который пользователи могут наводить курсор или коснитесь, чтобы узнать больше информации о том, кто это сделал, какие инструменты и когда использовал.

Архитектуру C2PA также можно внедрить в метаданные (или невизуальные данные, сопровождающие изображение, видео или другой мультимедийный файл) при их сохранении, гарантируя, что их смогут увидеть даже те, кто получает доступ к ним в автономном режиме на других устройствах. По словам OpenAI, это происходит с изображениями, созданными с помощью модели искусственного интеллекта DALL-E 3, по крайней мере, с февраля этого года. (Meta также начала маркировать изображения, созданные ИИ, стандартом C2PA.)

Сегодня Анна Маканджу, вице-президент OpenAI по глобальным вопросам, подчеркнула важность этих усилий, заявив в пресс-релизе C2PA: «C2PA играет важную роль в объединении отрасли для продвижения общих стандартов в области цифрового происхождения. Мы с нетерпением ждем возможности внести свой вклад в эти усилия и рассматриваем это как важную часть укрепления доверия к подлинности того, что люди видят и слышат в Интернете».

Видео Sora будут помечены как AI, созданные с использованием метаданных C2PA.

Хотя Sora, впечатляюще реалистичная модель искусственного интеллекта OpenAI, генерирующая видео, которая используется избранными доверенными партнерами (в том числе для создания первого в своем роде музыкального видео на прошлой неделе), Sora, также будет иметь метаданные C2PA. интегрирован для маркировки видеоклипов, которые он создает как продукты искусственного интеллекта, когда они наконец будут опубликованы (дата здесь не указана).

Кроме того, OpenAI запустила программу доступа для исследователей-классификаторов обнаружения DALL-E.

Эта инициатива включает в себя двоичный классификатор, предназначенный для прогнозирования того, происходит ли изображение из модели OpenAI DALL-E 3. Но компания хочет получить помощь от внешних групп в ее тестировании.

Исследователи, заинтересованные в программе (OpenAI заявляет, что двери открыты для «исследовательских лабораторий и некоммерческих организаций, занимающихся журналистикой, ориентированной на исследования»), могут подавать заявки до 31 июля, а решения будут приняты к 31 августа.

Фонд социальной устойчивости

Кроме того, OpenAI сообщает, что вместе со своим инвестором Microsoft запускает «фонд социальной устойчивости» стоимостью 2 миллиона долларов, который будет сотрудничать с другими внешними группами, включая AARP, International IDEA и Партнерство по ИИ, для «поддержки образования и понимания ИИ». среди пожилых людей и других лиц, незнакомых с этой технологией.

Эта новость появилась на фоне сообщений о том, что люди, особенно на сайтах социальных сетей, таких как Facebook Меты, по-видимому, были обмануты постами с изображениями, созданными ИИ, которые должны были напоминать настоящие фотографии — хотя многие из них, такие как «Креветка Иисус», совершенно очевидно являются художественными и сюрреалистическими.

Большой вопрос: помогут ли эти усилия существенно обуздать волну дезинформации, распространяемой ИИ? OpenAI явно атакует на обоих фронтах — компонент генерации и образования, чтобы помечать созданный ИИ контент, а также чтобы люди учились распознавать и искать его.

Тем не менее, в эпоху, когда многие модели ИИ с открытым исходным кодом распространяются и когда по-прежнему легко делать снимки экрана или изменять изображения для удаления метаданных (C2PA пытается сделать это трудным или невозможным), становится ясно, что задача надежной маркировки и идентификации контента ИИ вероятно, останется огромным в обозримом будущем. Тем не менее, компания хочет быть хорошей, социально ответственной силой, поэтому принятие этих шагов имеет смысл с точки зрения связей с общественностью и, в идеале, с точки зрения добросовестной корпоративной ответственности.