Почему открытое письмо о «создании ИИ для лучшего будущего» терпит неудачу

В каноне индустрии искусственного интеллекта открытые письма — помните письмо «паузы» в марте прошлого года? — Я бы рискнул сказать, что последний проект под названием «Создание искусственного интеллекта для лучшего будущего» может оказаться лучшим. То есть сдутая лепешка.

Письмо, инициированное венчурным капиталистом Роном Конвеем и его фирмой SV Angel, подписало более 300 человек, включая такие компании, как OpenAI, Salesforce, Google, Meta и Microsoft. Генеральный директор OpenAI Сэм Альтман расхваливал «дух этого письма», в то время как другие компании «гордый», чтобы подписать его.

Но письмо, которое призывает «всех создавать, широко внедрять и использовать ИИ для улучшения жизни людей и открытия лучшего будущего», не просто короткое (всего четыре коротких абзаца), но и лишено конкретики и контекста. Это особенно беспокоит в тот момент, когда Google продолжают тянуть за провал Gemini; Некоммерческая структура OpenAI и миссия AGI снова подверглись критике; а новые модели Claude 3 от Anthropic провозглашаются обладателями «почти человеческих» способностей.

Открытое письмо содержит расплывчатые заявления о преимуществах и рисках ИИ

С расплывчатыми заявлениями типа «Цель ИИ – дать людям возможность процветать гораздо больше, чем мы могли раньше» и «ИИ предназначен для всех нас, и каждый из нас должен сыграть свою роль в создании ИИ для улучшения жизни людей». трудно понять, в чем на самом деле смысл письма; на кого оно нацелено; и почему оно публикуется сейчас.

На самом деле, письмо довольно оскорбительно для общественного интеллекта: в конце концов, мы подошли к моменту бешеных темпов развития искусственного интеллекта, когда общественность — как потребители, так и предприятия — ищет ответы на множество вопросов о прозрачности и подотчетности. и учет конфиденциальности, предвзятости и неравенства. Общественность также справедливо обеспокоена такими серьезными проблемами, как влияние ИИ на изменение климата, рабочую силу, выборы и военные действия.

Ни один из этих вопросов или проблем не рассматривается в документе «Создайте искусственный интеллект для лучшего будущего», и письмо не делает ничего, чтобы отодвинуть нас дальше от того, что я назвал «обрывом разочарования» еще в октябре 2023 года. В этой статье я сказал: что наряду с быстрыми темпами ошеломляющих, даже ошеломляющих разработок ИИ, ИИ также сталкивается с целым рядом сложных проблем, от судебных исков до дипфейков.

Я написал: «Суть в том, что ИИ может иметь невероятный позитивный потенциал для будущего человечества, но я не думаю, что компании хорошо справляются с задачей информирования о том, что это такое. Где же «почему» — например, почему мы переживаем все эти тревоги, создавая все это? Какова текущая и будущая ценность генеративного ИИ для отдельных лиц, работников, предприятий и общества в целом? Насколько выгоды перевешивают риски?»

Боюсь, что фразы «ИИ еще рано, но он уже на пути к улучшению повседневной жизни каждого человека» недостаточно.

Другие раскритиковали открытое письмо

Я не единственный, кто критикует открытое письмо «Создавайте искусственный интеллект для лучшего будущего». Эмили Бендер, профессор лингвистики Вашингтонского университета, пародировала письмо своей собственной версией «Создайте «ИИ» для более эксплуататорского будущего», написав: «Мы призываем всех отказаться от своих данных и согласиться на более неустойчивую занятость, чтобы что технологические магнаты могут наслаждаться еще более богатым будущим».

Кроме того, сегодня я разговаривал с президентом Signal Foundation Мередит Уиттакер, которая сказала мне, что письмо показалось ей «очень странным», как будто оно просило ChatGPT «генерировать банальности».

«Кого это пытается убедить, и, честно говоря, в чем?» она сказала. «Местоимения не могут быть шире — «мы призываем каждый.’»

В отличие от множества открытых писем 2017-2021 годов, отметил Уиттакер, в которых работники требовали изменений от крупных технологических компаний (например, протестуя против сотрудничества Google с Пентагоном), новое письмо меняет форму «открытого письма» на «стерильную». путь к «корпоративному маркетингу».

Похоже, объяснила она, «чтобы сигнализировать о доброжелательных намерениях тех самых фирм, которые могли бы внести изменения, отказываясь при этом от своей собственной власти просто произвести эти изменения».

Суть, по ее словам, заключается в том, что письмо является «глубоко покровительственным документом», в котором отсутствуют реальные, четкие обязательства по измерению прогресса и отчетности по нему.