[ad_1]
Миллиардер, лидер мультикомпании Илон Маск, соучредитель, ставший ярым конкурентом OpenAI, подал иск против своих коллег-соучредителей, генерального директора OpenAI Сэма Альтмана и председателя Грега Брокмана, за разработку искусственного общего интеллекта (AGI) с единственной целью. получения прибыли для Microsoft, что, как утверждается в иске, является нарушением первоначального учредительного соглашения компании.
В иске, поданном в Верховный суд Сан-Франциско, Маск утверждал, что, когда он вместе с Альтманом и Брокманом основал исследовательскую лабораторию, они все согласились разработать AGI — форму ИИ, которая превосходит людей в большинстве экономически ценных работ — на благо человечества, создавая ее технология доступна бесплатно по лицензиям с открытым исходным кодом.
Однако после ухода Маска несколько лет спустя в иске утверждается, что OpenAI полностью отвернулась от своей первоначальной миссии и начала работать с Microsoft, по сути став ее де-факто дочерней компанией с закрытым исходным кодом, разрабатывающей и совершенствующей AGI для получения прибыли, а не для получения прибыли. пользу человечества.
Нарушение OpenAI учредительного соглашения
Маск, который открыто говорил о рисках передового искусственного интеллекта, утверждает в иске, что Альтман разделял те же опасения, что и он еще в 2015 году. Фактически, нынешний генеральный директор OpenAI написал, что развитие сверхчеловеческого машинного интеллекта (SMI), вероятно, является величайшую угрозу дальнейшему существованию человечества.
«Есть и другие угрозы, которые, я думаю, более верны… но вряд ли уничтожат каждого человека во вселенной так, как это могло бы сделать SMI», — написал Альтман, согласно иску.
Из-за этих опасений и закрытого стремления Google использовать AGI ради собственной прибыли, дуэт и Брокман объединились, чтобы запустить OpenAI в качестве противовеса, который будет развивать передовой искусственный интеллект на благо человечества.
Первоначальное учредительное соглашение исследовательской лаборатории было направлено на создание некоммерческих систем искусственного интеллекта с открытым исходным кодом на каждом этапе пути, чтобы исключить соображения безопасности и обеспечить прозрачность.
Согласно иску, OpenAI придерживалась соглашения в течение нескольких лет, в том числе, когда выпустила модель GPT-3. Лаборатория поделилась подробным документом, описывающим внутреннюю специфику и данные обучения для GPT-3. Однако в 2020 году дела пошли не по плану, когда компания заключила партнерское соглашение с Microsoft и предоставила технологическому гиганту эксклюзивную лицензию на GPT-3.
В иске утверждается, что в 2023 году учредительное соглашение было взорвано, когда OpenAI выпустила GPT-4, модель, которая рассуждала лучше, чем обычные люди, но ничего не делилась о ней с общественностью. Компания неоднократно ссылалась на безопасность как на причину недетализации внутренней конструкции, но Маск утверждал, что эта секретность сохранялась в основном из коммерческих соображений.
Что еще более важно, миллиардер утверждал, что GPT-4, который исследователи Microsoft описали как раннюю версию AGI, был интегрирован с платным пакетом Office, выходя за рамки соглашения 2020 года, которое охватывало GPT-3.
Когда это произошло, отмечается в иске, правление OpenAI, которое оставило за собой право определять, когда будет создан AGI (продукт, официально выходящий за рамки лицензии Microsoft), уволило Альтмана в ноябре 2023 года за непостоянную откровенность и потерю доверия к его способность руководить лабораторией. Однако из-за значительных инвестиций Microsoft в OpenAI и рычагов влияния генеральный директор был восстановлен в должности, а большинство членов совета директоров OpenAI были вынуждены уйти в отставку. В иске отмечается, что новым членам совета директоров, назначенным после этих событий, теперь не хватает опыта, чтобы принять независимое решение о том, достигла ли OpenAI AGI и когда это произошло.
В результате Маск заявил, что OpenAI, по сути, стала де-факто дочерней компанией Microsoft с закрытым исходным кодом, предоставляя свою раннюю систему AGI и дорабатывая ее для максимизации прибыли технологической компании. Далее он отмечает, что компания также разрабатывает Q*, который имеет еще более серьезные претензии к AGI.
Чего именно хочет Маск?
Этим иском Маск хочет заставить OpenAI присоединиться к первоначальному учредительному соглашению и вернуться к миссии фактической разработки AGI на благо человечества, а не ради прибыли.
Хотя это первый юридический шаг Маска против предполагаемого изменения тактики OpenAI, это определенно не первый раз, когда миллиардер вызывает исследовательскую лабораторию. В прошлом он неоднократно говорил о том, что OpenAI находится под контролем Microsoft – «безжалостной корпоративной монополии» и что компания получила свое название за свой открытый, некоммерческий подход, но это уже не так.
Примечательно, что из-за этих опасений и веры в то, что он, возможно, единственный, кто принесет в мир безопасный и этичный ИИ, Маск также запустил собственное предприятие в области ИИ под названием xAI. Компания утверждает, что стремится создать максимально ищущий истину искусственный интеллект, который пытается понять природу Вселенной, и уже выпустила собственного чат-помощника под названием Grok.
«Я думаю, что это может быть лучший путь к безопасности в том смысле, что ИИ, который заботится о понимании Вселенной, вряд ли уничтожит людей, потому что мы — интересная часть Вселенной», — сказал он в апрельском интервью Fox News.
xAI все еще догоняет OpenAI, но привлек к работе экспертов по искусственному интеллекту из организации, возглавляемой Альтманом, а также DeepMind, Google Research, Microsoft Research, Tesla и Университета Торонто.
[ad_2]
Источник
