Поскольку проблемы с финансированием NIST сохраняются, Шумер объявляет о выделении 10 миллионов долларов на свой Институт безопасности искусственного интеллекта.

Лидер большинства в Сенате США Чак Шумер (демократ от Нью-Йорка) объявил сегодня, что Национальный институт стандартов и технологий (NIST) получит до 10 миллионов долларов на создание Института безопасности искусственного интеллекта США (USAISI), который был создан в ноябре 2023 года для « поддерживать обязанности, возложенные на Министерство торговли» в соответствии с Исполнительным указом AI.

До сих пор было мало подробностей о том, как институт будет работать и откуда будет поступать его финансирование, особенно потому, что сам NIST, штат которого, как сообщается, насчитывает около 3400 человек, а годовой бюджет чуть более 1,6 миллиарда долларов, как известно, недофинансируется. . А буквально вчера газета Washington Post опубликовала разоблачение ветшающих офисов NIST, включая протекающую крышу, черную плесень, частые отключения электроэнергии и нестабильный Интернет.

Шумер назвал финансирование ИИ «сильным первоначальным взносом»

На NIST, который является частью Министерства торговли США, была возложена большая ответственность в отделе искусственного интеллекта Белого дома, чтобы «предпринимать инициативу по оценке и аудиту возможностей, связанных с технологиями искусственного интеллекта (ИИ), а также разрабатывать различные руководящие принципы. , в том числе для проведения тестов «красной команды» ИИ, чтобы обеспечить развертывание безопасных, надежных и надежных систем».

Теперь сенатор Шумер объявил, что недавно опубликованный законопроект об ассигнованиях на 2024 финансовый год в сфере торговли, юстиции и науки включает до 10 миллионов долларов на создание USAISI в NIST. В пресс-релизе это было названо «первым в своем роде» финансированием, а Шумер назвал его «сильным авансовым платежом» за реализацию EO Байдена по искусственному интеллекту.

«Как лидер большинства, я постоянно твердил, что наше правительство должно внедрить разумные меры, чтобы гарантировать, что мы сбалансируем необходимость того, чтобы США продолжали лидировать в инновациях, а также устраняли любые потенциальные риски, связанные с искусственным интеллектом», — сказал он. «Я боролся за это финансирование, чтобы гарантировать, что развитие ИИ будет уделять приоритетное внимание как инновациям, так и безопасности, подотчетности и прозрачности, одновременно поддерживая американскую промышленность и обеспечивая прогресс».

По словам Шумера, Институт искусственного интеллекта NIST «будет способствовать разработке стандартов безопасности и тестирования моделей искусственного интеллекта, разрабатывать стандарты аутентификации контента, созданного искусственным интеллектом, а также предоставлять исследователям среду тестирования для оценки возникающих рисков искусственного интеллекта. Институт безопасности ИИ работает в координации с консорциумом из 200 компаний и организаций, занимающихся исследованиями и разработками, а также тестированием и оценкой, среди прочего, для повышения безопасности и подотчетности систем ИИ».

Критика по поводу отсутствия финансирования и прозрачности NIST

В феврале VentureBeat сообщил о критике отсутствия прозрачности NIST в отношении USAISI. конкурсный процесс для запланированных исследовательских грантов, связанных с новым Институтом безопасности искусственного интеллекта США».

Законодатели заявили, что они особенно обеспокоены запланированным партнерством в области исследований в области искусственного интеллекта между NIST и корпорацией RAND — влиятельным аналитическим центром, связанным с технологическими миллиардерами, индустрией искусственного интеллекта и противоречивым движением «эффективного альтруизма» (VentureBeat также сообщил о «расширяющейся сети»). » эффективного альтруизма (ЭА) в «безопасности» и защищенности ИИ, в том числе в рамках RAND и ведущей компании по моделированию LLM Anthropic).

В письме законодатели написали: «К сожалению, нынешнее состояние области исследований в области безопасности искусственного интеллекта создает проблемы для NIST, поскольку он выполняет свою лидирующую роль в этом вопросе», добавив, что «выводы внутри сообщества часто носят самоотносящийся характер и лишены достоверности». качество, которое возникает в результате пересмотра в ответ на критику со стороны экспертов в данной области. Существуют также значительные разногласия в области безопасности ИИ в отношении сферы применения, таксономии и определений».

В то время VentureBeat также разговаривал с Румманом Чоудхури, который ранее руководил разработкой искусственного интеллекта в Accenture, а также возглавлял команду META (теперь X) Twitter (теперь X) (этика машинного обучения, прозрачность и подотчетность) с 2021 по 2011 год. Она сказала, что финансирование является проблемой для USAISI.

«Одна из вещей, которые откровенно недостаточно обсуждаются, заключается в том, что это нефинансируемый мандат, предусмотренный исполнительным указом», — сказала она. «Я понимаю политику, почему, учитывая нынешнюю поляризацию США, действительно трудно провести какой-либо законопроект… Я понимаю, почему он был принят в виде исполнительного указа. Проблема в том, что на это нет финансирования».