Секрет полезности языковых моделей

Если бы вы описали свои симптомы мне как бизнес-лидеру и я ввел их в ChatGPT, хотели бы вы, чтобы я составил и прописал вам план лечения, отправив заказы местному фармацевту — без консультации с врачом?

Что, если бы вам предложили сделку: ведущие специалисты по обработке данных в мире присоединятся к вашей организации, но с той загвоздкой, что каждый из ваших бизнес-экспертов должен присоединиться к вашему конкуренту, оставив только данные для работы и никаких экспертов, которые могли бы предоставить контекст?

В эпоху искусственного интеллекта общественность наполнена голосами, рекламирующими возможности, риски, угрозы и рекомендуемые методы внедрения генеративного искусственного интеллекта, особенно языковые модели, такие как GPT-4 или Bard. Ежедневно объявляются о новых моделях с открытым исходным кодом, научных открытиях и выпусках новых продуктов.

В разгар этого рыночного импульса упор был сделан на возможности языковых моделей, но язык полезен только в сочетании со знаниями и пониманием. Если бы кто-то запомнил в словаре все слова, относящиеся к химии, и мог бы их произносить, не зная и не понимая основных принципов, этот язык был бы бесполезен.

Правильный рецепт

Для языковых моделей это шаг вперед и может вводить в заблуждение, поскольку модели могут не только повторять связанные слова, но и лежащие в их основе документы, структуры, фразы и рекомендации, написанные экспертами.

Например, когда их просят создать новый рецепт, они могут использовать корреляции между предыдущими рецептами и описаниями для создания нового рецепта, но у них нет знаний о том, что вкусно на вкус, или даже о том, каковы впечатления от дегустации. Если в прошлых рецептах нет корреляции между смешиванием оливкового масла, кетчупа и персиков, модели вряд ли будут смешивать эти ингредиенты — не потому, что они знают или понимают, что такое вкусное, а из-за отсутствия корреляции между этими ингредиентами в их наборе данных.

Таким образом, рецепт вкусного блюда, созданный языковой моделью, представляет собой статистическую вероятность, за которую мы можем поблагодарить экспертов, чьи рецепты были включены в исходные исходные данные. Языковые модели обладают огромной силой, и секретным ингредиентом, делающим их полезными, является опыт.

Экспертиза сочетает язык со знанием и пониманием.

Фраза «корреляция не равна причинно-следственной связи» хорошо известна тем, кто работает с данными. Это относится к тому факту, что вы можете провести ложную корреляцию между двумя несвязанными вещами, неверно истолковав связь, подразумевая, что одно является причиной другого, например, утренний крик петуха, приказывающий восходу солнца.

Машины чрезвычайно полезны в выявлении корреляций и закономерностей, но необходим опыт, чтобы определить, подразумевают ли они истинные причинно-следственные связи и должны ли они служить основой для принятия решений (например, стоит ли инвестировать в обучение петухов кукарекать на час раньше, чтобы получить дополнительный час дневного света).

В человеческом опыте обучения язык — это только первый шаг. Когда ребенок осваивает язык, позволяющий обозначать предметы, людей, места, глаголы и многое другое, его опекуны используют его, чтобы привить знания. Мы живем на планете под названием Земля. Этот шар в небе называется солнцем. Следующий шаг — понимание причины и следствия (причинно-следственной связи): солнце на небе согревает вашу кожу. Прыжок в холодное озеро может снова охладить вас.

К моменту взросления мы усвоили сложные структуры знаний, состоящие из языка, знаний (что) и понимания (почему).

Воссоздание структуры экспертизы

Рассмотрим любую тему. Если у вас есть язык без знаний и понимания, вы не эксперт. Я знаю, что у традиционного автомобиля есть трансмиссия, двигатель с поршнями, бензобак — у меня есть кое-какие понятия об автомобилях.

Но есть ли у меня знания? Я знаю, что автомобиль подает газ в двигатель посредством впрыска топлива, и существует реакция, связанная со срабатыванием поршней, и что это имеет решающее значение для движения автомобиля вперед. Но понимаю ли я, почему? И если бы он перестал работать, знаю ли я, как это исправить? К большому огорчению моего школьного учителя автосервиса, мне пришлось нанять эксперта, который понимал бы, почему и имел знания о том, как это исправить, полученные на практическом опыте.

Если перевести это в машинный контекст, языковые модели без знаний (представленных графами и моделями знаний) или понимания (представленных причинно-следственными моделями) никогда не должны принимать решения, поскольку у них нет опыта. Языковая модель, принимающая решение самостоятельно, подобна предоставлению ящика с инструментами и доступа к вашей машине человеку, который запомнил только следующее наиболее вероятное слово обо всем, что связано с автомобилями.

Так как же нам использовать потенциал языковых моделей, воссоздавая структуру знаний в машинах?

Начните с опыта и работайте в обратном направлении

Машинное обучение (МО) и машинное обучение — это разделы области перевода человеческого опыта на машинный язык, чтобы машины могли либо информировать человека о решениях, либо принимать решения автономно. Это может освободить человеческие способности, чтобы сосредоточиться на решениях и открытиях, которые либо слишком детализированы, либо для которых недостаточно данных для перевода на машинный язык.

МО начинается с вопроса о том, как лучше оснастить машины для обучения, а обучение машин начинается с вопроса о том, как лучше подготовить людей к обучению машин.

Наиболее распространенное заблуждение в дискуссиях об искусственном интеллекте и машинном обучении заключается в том, что данные являются наиболее важным элементом, но самым важным элементом является опыт. В противном случае, что такое обучение модели? Конечно, он выявляет закономерности, классифицирует и прочесывает миллионы строк данных за считанные секунды. Но что делает эти шаблоны полезными?

Когда эксперт определил, что шаблон может способствовать принятию решения, которое принесет пользу организации и ее клиентам, этот опыт можно перевести на машинный язык, а машину можно научить связывать этот шаблон с бизнес-правилами и самостоятельно принимать полезные решения.

Таким образом, процесс внедрения опыта в машины не начинается с данных, он начинается с опыта и идет в обратном направлении. Примером этого может служить ситуация, когда оператор машины замечает, что определенные звуки, издаваемые машиной, соответствуют необходимым регулировкам. Например, когда он издает пронзительный свист, необходимо снизить температуру. Помимо полной рабочей нагрузки, оператор в течение дня прислушивается к тому, не издает ли машина один из таких звуков. Данных, соответствующих этой ситуации, не существует, но есть опыт.

Работать в обратном направлении, исходя из этого опыта, довольно просто. Установите датчики, которые обнаруживают звуки, издаваемые машиной, а затем вместе со специалистом сопоставьте эти звуки (частоты и комбинации децибел), чтобы внести необходимые настройки в машину. Затем этот процесс можно передать автономной системе, что освободит время оператора для выполнения других обязанностей.

Определите наиболее важные экспертные знания

Процесс создания решений ИИ должен начинаться с вопроса о том, какой опыт наиболее важен для организации, после чего следует оценка уровня риска, связанного с потерей этого опыта, или потенциального преимущества передачи решения, принимаемого экспертами, машине.

Есть ли в организации только один человек, который понимает этот процесс и понимает, как исправить систему, когда она выходит из строя? Тысячи сотрудников каждый день выполняют один и тот же процесс, который можно было бы перенести на автономную систему, высвобождая тем самым дополнительные 30 минут в своих ежедневных календарях?

Третий шаг — оценить, какие из тех, которые связаны с наибольшей степенью риска или потенциальным потенциалом роста, могут быть переведены на машинный язык. Это шаг, когда данные и инструменты (такие как языковые модели) вступают в разговор в качестве средства перевода опыта на машинный язык и взаимодействия с машинами.

К счастью для большинства организаций, основа построения экспертных систем уже заложена, и в качестве отправной точки языковые модели могут либо ссылаться, либо проверяться на основе запрограммированного в них опыта.

Разведка операций

В ближайшее десятилетие мы увидим встряску рыночных секторов, основанную на их инвестициях в ИИ.

Поучительной историей является появление видео по запросу: Netflix представил потоковую передачу в 2007 году. Blockbuster объявила о банкротстве три года спустя, несмотря на то, что в 1995 году она разработала и пилотировала Blockbuster On Demand.

К тому времени, когда конкурент представит достаточно продвинутый продукт или услугу со значимыми и дифференцированными приложениями ИИ, вероятно, будет уже слишком поздно менять направление или «быстро следовать», особенно с учетом времени и опыта, необходимых для разработки надежных приложений.

К 2030 году имена, которые мы сейчас уважаем, вступят в ряды наряду с Blockbuster, потому что они решили быстро следовать за ними, и к тому времени, когда они увидели рыночную силу, которая приведет к их кончине, было уже слишком поздно.

Вместо того, чтобы планировать ждать и реагировать на инвестиции и разработки разработчиков, лидеры должны начать с вопроса о том, чего они могут достичь на рынке, что потребует от всех остальных усилий, чтобы отреагировать на них.

В эпоху автономной трансформации организации, которые лучше всего смогут сохранить или расширить свои позиции на рынке, будут теми, кто инвестирует в передачу практического опыта машинам и формирует видение будущего рынка и ценности, которую их организации могут создать, заказывая экспедиции. в неизведанное, чтобы выяснить, может ли это видение быть реализовано, одновременно тщательно превращая открытия в осязаемую ценность.

Брайан Эвергрин — основатель The Profitable Good Company.. Эта статья была написана в сотрудничестве с Роном Норрисом, директором по операционным инновациям компании Джорджия-Тихоокеанский региони Майкл Кэрролл, вице-президент по инновациям в Georgia-Pacific.