[ad_1]
Спустя несколько дней после того, как OpenAI поразила мир невероятно фотореалистичными демонстрациями своей новой модели генерации видео с использованием искусственного интеллекта Sora, компания OpenAI столкнулась с серьезным препятствием.
Фирменный продукт стартапа, ChatGPT, начал возвращать пользователям бессмысленные и бессмысленные данные вчера днем, во вторник, 20 февраля 2024 года, и многие обратились в X (ранее известный как Twitter), чтобы пожаловаться.
Некоторые результаты ChatGPT неразборчиво смешивали испанский и английский языки, в то время как другие составляли слова или повторяли фразы снова и снова, несмотря на то, что чат-боту на базе большой языковой модели (LLM) этого не требовалось.
Один проницательный пользователь сравнил, казалось бы, случайные цепочки разрозненных слов с тревожащими внеземными граффити «странного ужаса» из плодотворного романа Джеффа Вандермеера 2014 года. Уничтожениеи это правда, с точки зрения читателя, что и то, и другое имеет одинаково жуткое качество нечеловеческого интеллекта, который кажется ненормальным или нелогичным.
В то время как различные респонденты шутили о том, что странные результаты стали началом «восстания роботов», подобного тому, которое изображено во многих франшизах научно-фантастических фильмов, в том числе Терминатор и Матрицадругие отмахнулись от них как от сбоев, и многие отметили, что они подрывают идею о том, что инструменты генеративного ИИ работают так же хорошо, как люди при написании и генерации кода.
По состоянию на 15:40 по тихоокеанскому времени 20 февраля OpenAI знала о проблеме и разместила ее на своей общедоступной веб-странице панели мониторинга состояния. К 15:47 по тихоокеанскому времени компания заявила, что обнаружила проблему и «устраняет» ее. И почти к 17:00 по тихоокеанскому времени компания заявила, что «продолжает следить за ситуацией».
Сегодня в 10:30 по тихоокеанскому времени официальная подтвержденная учетная запись ChatGPT на X опубликовала сообщение: «Вчера немного вышло из строя, но должно вернуться и работать!»
Позже аккаунт ChatGPT опубликовал скриншот посмертного отчета об инциденте с веб-сайта OpenAI, в котором компания заявила, что «оптимизация пользовательского опыта привела к ошибке в том, как модель обрабатывает язык», но что она «перекатилась». вне исправления», которое решило проблему.
Тем не менее, даже при быстром исправлении, ошибочные и бессвязные ответы из ниоткуда не могли не заставить меня и других усомниться в базовой надежности и целостности ChatGPT и его использования или других продуктов OpenAI, таких как LLM, лежащих в его основе — GPT-4. и GPT-3.5 — для корпоративного использования, особенно для «критических к безопасности» задач, таких как транспорт, здравоохранение/медицина, энергетика и машиностроение.
Теперь большой вопрос: можно ли предотвратить это в будущем?
[ad_2]
Источник
