[ad_1]
Сегодня LangChain, стартап, способствующий разработке приложений для больших языковых моделей (LLM) с помощью своей среды с открытым исходным кодом, объявил, что привлек $25 миллионов в рамках раунда А, возглавляемого Sequoia Capital. Компания также заявила, что запускает LangSmith, свой первый платный продукт LLMOps, который будет доступен для широкой публики.
Разработанная как универсальная платформа, LangSmith позволяет разработчикам ускорить рабочие процессы приложений LLM, охватывая весь жизненный цикл проекта, начиная от разработки и тестирования до развертывания и мониторинга. По данным компании, он был запущен в закрытой бета-версии в июле прошлого года и уже используется тысячами предприятий каждый месяц.
Решение о выпуске этого предложения связано с тем, что разработчикам нужны решения для создания приложений на основе языковых моделей, а также улучшенная видимость и инструменты, чтобы гарантировать их высокую производительность и надежность в работе.
Чего ожидать от ЛангСмита из LangChain?
Благодаря своей платформе с открытым исходным кодом LangChain предоставила разработчикам столь необходимый набор инструментов программирования – с общим набором лучших практик и составных строительных блоков – для создания приложений на базе LLM. Он может извлекать LLM через API, связывать их вместе и связывать с источниками данных и инструментами для выполнения различных задач. Проект начинался как подработка, но быстро развился и стал основой более чем 5000 приложений LLM, включая внутренние приложения, автономные агенты, игры, автоматизацию чатов и многое другое.
Однако предоставления набора инструментов для создания приложений будет недостаточно. На каждом этапе запуска приложения LLM в производство возникает множество препятствий — именно здесь на помощь приходит новое платное решение LangSmith. Оно позволяет разработчикам отлаживать, тестировать и отслеживать свои приложения LLM.
При создании прототипов разработчики, использующие LangSmith, могут получить полную картину всей последовательности вызовов LLM и выявить источник ошибок и узких мест в производительности в режиме реального времени для отладки и итерации. Они могут сотрудничать с профильными экспертами, чтобы улучшить поведение приложения, и даже использовать человеческую информацию или оценку с помощью искусственного интеллекта для проверки релевантности, правильности, вредности, нечувствительности и многого другого.
После завершения разработки прототипа унифицированная платформа помогает пользователям развернуть его с помощью размещенного LangServe и обеспечивает полную видимость того, что происходит в производстве, охватывая все: от затрат и задержек до аномалий и ошибок.
В конечном итоге это позволяет предприятиям предоставлять приложения LLM, которые хорошо работают в производстве как с точки зрения качества, так и с точки зрения экономической эффективности.
Значительное раннее внедрение
В сообщении в блоге, объявляющем об инвестициях, Соня Хуанг и Роми Бойд из Sequoia написали, что с момента запуска закрытой бета-версии в июле 2023 года на LangSmith зарегистрировалось более 70 000 человек. В настоящее время более 5000 компаний используют эту технологию каждый месяц, включая известные отраслевые имена, такие как Rakuten, Elastic, Moody’s и Retool.
«Elastic использует свой Elastic AI Assistant для обеспечения безопасности в LangChain и использует LangSmith для обеспечения прозрачности, помогая им быстро приступить к работе. Rakuten полагается на LangSmith для тщательного тестирования и сравнительного анализа, чтобы они могли систематически принимать компромиссные решения относительно своего второго пилота Rakuten AI for Business, встроенного в LangChain. А Moody’s полагается на LangSmith для автоматической оценки, легкой отладки и экспериментирования, чтобы они могли быстро повторять и внедрять инновации», — отметили Хуанг и Бойд.
Хотя технология уже начала набирать обороты, ожидается, что ее распространение будет только расти – теперь, когда она общедоступна в быстро развивающемся пространстве искусственного интеллекта.
«Команда создает богатое пространство проблем, где есть что исследовать, и ими руководит сообщество увлеченных пользователей, у которых нет недостатка в важных проблемах, которые им нужно решить», — добавили руководители Sequoia, отметив, что это только начало для LangChain. .
В качестве следующего шага LangChain заявляет, что планирует представить несколько возможностей для расширения платформы LangSmith. Это будет включать поддержку регрессионного тестирования, возможность запуска онлайн-оценщиков на выборке производственных данных, лучшую фильтрацию и поддержку диалога, а также простое развертывание приложений с помощью размещенного LangServe. Он также запустит функции корпоративного уровня, которые помогут в администрировании и безопасности.
Благодаря этому раунду инвестиций от Sequoia общий привлеченный капитал LangChain достиг 35 миллионов долларов. Согласно данным Crunchbase, предыдущий раунд инвестиций в размере $10 млн проводился компанией Benchmark. Другими предложениями, помогающими оценивать и отслеживать приложения LLM, являются TruLens от TruEra, W&B Prompts и Pheonix от Arize.
[ad_2]
Источник
