[ad_1]
Узнайте, как компании ответственно интегрируют ИИ в производство. Это мероприятие, доступное только по приглашению, в Сан-Франциско будет посвящено пересечению технологий и бизнеса. Узнайте, как вы можете принять участие здесь.
Компания Stardog, занимающаяся управлением корпоративными данными и графическими знаниями, со штаб-квартирой в Арлингтоне, штат Вирджиния, была впереди всех с момента своего основания в 2006 году: уже тогда основатель и генеральный директор Кендалл Кларк знал, что бизнес 21-го века будет определяться их данными — и что оцифровка это и обеспечение мгновенного доступа к нему по требованию должно было стать огромным рынком.
На сегодняшний день компания привлекла финансирование в размере 40 миллионов долларов и включает в себя правительственные учреждения США, включая НАСА и Министерство обороны, а также крупные предприятия Raytheon и Bosch. И по мере того, как эра генеративного искусственного интеллекта набирает обороты, услуги Stardog становятся все более востребованными.
Новое устройство для новой эпохи
Теперь компания запускает «Караоке», инновационный локальный сервер, разработанный совместно с партнерами Nvidia и Supermicro, на котором размещена платформа Stardog Voicebox Large Language Model (LLM), специально настроенный вариант Llama 2 корпоративного уровня, публично представленный в октябре 2023 года. Это позволяет пользователям без какой-либо технической подготовки вводить запросы на естественном языке в Stardog Cloud на своих компьютерах и получать ответы на свои вопросы с помощью структурированных данных их собственной компании.
«Мы говорим о большом банке, производителе, фармацевтической компании, которая регулируется и поэтому не может легко или, возможно, никогда не сможет перенести все свои данные в облако», — сказал Кларк в голосовом интервью с ВенчурБит. «Все эти предприятия нуждаются в искусственном интеллекте поколения, но большая часть искусственного интеллекта поколения находится в облаке. Караоке призвано восполнить этот пробел и эффективно предоставить вам облако, разместить его рядом с вашими данными, а затем предоставить вам преимущества этого демократизированного и самообслуживаемого доступа к данным».
Караоке доступно в различных размерах и конфигурациях: от Micro (один сервер размером с коробку для пиццы) до уровня «Корпоративный» с 2304 ядрами ЦП, а также различных размеров между ними. Самая маленькая модель может поддерживать 500 одновременных пользователей по сравнению с 20 000 самой большой моделью.
LLM как переводчик данных
Уровень Voicebox LLM предназначен для эффективной работы в качестве переводчика, принимая вопрос пользователя — скажем, в случае государственного учреждения «какая торговля по евро в прошлом квартале нарушила санкции» — и переводя его на язык науки о данных и программирования. , соответствующий запрос JavaScript, Python или SQL, получающий информацию из сети знаний Stardog компании.
Как избежать галлюцинаций? Не показывать результаты LLM
Кроме того, благодаря использованию передового графа знаний Stardog и недавно разработанного шаблона проектирования Safety RAG (гарантия быстрой точности), Voicebox обещает 100% отсутствие галлюцинаций. Кларк рассказал VentureBeat, что благодаря этой реализации корпоративным клиентам больше не придется идти на компромисс с точностью ради передовых технологий.
«Построить систему искусственного интеллекта без галлюцинаций довольно легко», — сказал он. «Вам просто нужно сделать одно: никогда не показывать пользователю ничего, что исходит исключительно из большой языковой модели. Мы никогда не показываем конечному пользователю факт, вытекающий из большой языковой модели. Мы показываем им только факты, основанные на их данных прямо сейчас».
Вместо того, чтобы полагаться на LLM для получения данных компании и их обобщения или даже их извлечения, уровень Voicebox LLM просто преобразует запросы пользователя на естественном языке обратно в более программные, которые мог бы построить обученный специалист по данным.
«Ответ», полученный пользователем: нет Ответ LLM (предсказание токена). Вместо этого это просто то, что происходит, когда переведенная программная версия запроса обращается к базе данных компании. Если уровень LLM не понимает запрос пользователя или какие данные помогут ответить на него, он просто говорит ему: «Я не знаю, как ответить на ваш вопрос».
Кроме того, Voicebox предоставляет пользователю цифровой след того, где он получил информацию, с цитатами и ссылками.
Как объяснил Кларк, он показывает «ответ на ваш вопрос, ссылку, по которой вы можете щелкнуть, чтобы открыть исходный код. Наша платформа обеспечивает отслеживаемость и происхождение, поэтому вы можете сами убедиться, что эти ответы исключают даже возможность сомнений или недоверия к данным».
Цены и доступность
По словам Кларка, Stardog планирует предлагать свой уровень Voicebox LLM по цене 39 долларов за пользователя в месяц, и его можно будет использовать в облаках или виртуальных частных облаках без караоке-бокса.
Цена караоке-бокса зависит от количества пользователей и оборудования в зависимости от указанных выше размеров, но Кларк сказал, что он сдавался в аренду клиентам на срок от 3 до 5 лет.
Для предприятий регулируемых отраслей, желающих использовать возможности генеративного искусственного интеллекта, соблюдая при этом нормативные требования, караоке от Stardog представляет собой возможное решение.
Поскольку эти инструменты становятся все более неотъемлемой частью бизнес-операций в различных секторах, Stardog имеет хорошие возможности для того, чтобы возглавить безопасное и эффективное развертывание локальных приложений GenAI. Для получения более подробной информации о Stardog Karaoke и Voicebox заинтересованные стороны могут посетить веб-сайт Stardog по адресу www.stardog.com.
С помощью «Караоке» Stardog не только удовлетворяет значительную потребность рынка, но и устанавливает новый стандарт для развертывания безопасных, эффективных и совместимых технологий искусственного интеллекта в корпоративной сфере.
[ad_2]
Источник
