Искусственный интеллект научился влиять на людей, наблюдая за приготовлением еды

Мир кулинарии и сотрудничества в приготовлении сложных блюд требует высокой степени координации и взаимопонимания между партнерами. Но что если в этот процесс будет вовлечен робот?

Недавние исследования, представленные на конференции Neural Information Processing Systems (NeurIPS) в Новом Орлеане в конце 2023 года, показывают, что искусственный интеллект может научиться влиять на человека-коллегу, просто наблюдая за взаимодействием людей.

Используя игру под названием Overcooked, где два шеф-повара распределяют задачи по приготовлению и подаче блюд, исследователи из Университета Калифорнии в Беркли обнаружили, что ИИ может учиться взаимодействовать с людьми без прямой практики с ними. Это открывает новые возможности для улучшения взаимодействия человека с ИИ и помогает распознавать потенциальные риски, связанные с манипулированием ИИ.

В исследовании использовался метод обучения с подкреплением без взаимодействия (offline reinforcement learning), который позволяет разрабатывать стратегии, анализируя заранее записанные поведения, а не через реальное время взаимодействия. Этот метод позволил ИИ изучить сложную проблему влияния на человеческих сотрудников, наблюдая за их взаимодействием, а не взаимодействуя с ними напрямую.

По результатам исследования, ИИ смог не только воспроизвести наблюдаемое поведение, но и превзойти его, используя контрфактическое рассуждение для предсказания результатов, которые были бы получены при следовании другим путем в определенных ситуациях.

Интересно, что ИИ также разработал методы для влияния на базовые стратегии людей в процессе приготовления, а не только на их непосредственные действия. Например, если ИИ заметил, что его человеческий партнер медленно очищает морковь, он мог самостоятельно взяться за эту задачу, пока партнер не перестанет пытаться это делать.

Это исследование подчеркивает потенциал ИИ для улучшения сотрудничества между человеком и машиной, но также поднимает вопросы о том, как мы можем интегрировать способы, позволяющие людям сообщать системе о том, какие типы влияния они считают приемлемыми. В будущем мы можем работать с ИИ-партнерами в кухнях, складах, операционных, на поле боя и в чисто цифровых областях, таких как написание текстов, исследования и планирование путешествий.

Источник: Science News, Мэттью Хатсон, 25 марта 2024 года.