[ad_1]
Поскольку предприятия во всех секторах стремятся внедрить новые инструменты и технологии искусственного интеллекта, одной из проблем, стоящих на их пути, является обеспокоенность руководителей и сотрудников надежностью и рисками этих систем.
В ответ на этот вызов страховое подразделение стартапа Armilla AI, базирующееся в Торонто, Armilla Assurance, на этой неделе объявило о запуске Armilla Guaranteed, нового гарантийного обслуживания, направленного на обеспечение уверенности в производительности продуктов AI.
Исков по поводу моделей искусственного интеллекта становится все больше
Определение ответственности систем искусственного интеллекта и машинного обучения больше не является гипотетическим или редким. В прошлом месяце судья заявил, что Facebook может быть привлечен к ответственности за дискриминационные алгоритмы, страховой компании State Farm грозит групповой иск о расовой дискриминации в отношении ее чернокожих агентов, а Wells Fargo обвиняется в дискриминации чернокожих при предоставлении ипотечных кредитов.
«Иски уже начались», — сказал Картик Рамакришнан, соучредитель и генеральный директор Armilla Assurance, в интервью VentureBeat. «Мы просто видим их в этих отдельных событиях. Но если вы посмотрите на них в целом, то сегодня появляется целый ряд таких обязательств».
Корень жалоб
В основе всех этих жалоб лежит внедрение автоматизированных алгоритмов, которые используются, чтобы помочь этим компаниям принимать решения, и именно поэтому для лиц, принимающих решения на предприятии, важно инвестировать в продукты доверия и безопасности, такие как Armilla Guaranteed.
Новые предложения Armilla состоят из двух ключевых столпов — независимая оценка моделей ИИ через оценочную платформу Armilla, которая предоставит «проверенный» статус разработчикам алгоритмов после успешной проверки, и гарантию Armilla Guaranteed для защиты покупателей в случае «проверенной» модели. не соответствует установленным ключевым показателям эффективности (KPI).
Если гарантированная модель не соответствует обещанным ключевым показателям эффективности, покупателю будет возмещен лицензионный сбор через партнеров Armilla по перестрахованию Swiss Re, Greenlight Re и Chaucer.
«Хотя ИИ создает множество возможностей, он также несет в себе существенный риск, и именно здесь рынок (пере)страхования вступает в действие, чтобы обеспечить покрытие там, где это необходимо, помогая закрыть постоянно растущий пробел в защите ИИ», — сказала Хейли Мейнард, руководитель Инновации компании Chaucer в выпуске.
Цель состоит в том, чтобы повысить доверие как поставщиков, так и клиентов к решениям искусственного интеллекта путем непосредственного решения вопросов качества, точности и рисков.
«То, что мы делаем, — это раскрываем кривую внедрения», — сказал Рамакришнан. «Если вы делаете все правильно, вы протестировали свою модель, установили правильные ограждения. Если, несмотря на все это, что-то пойдет не так, то мы здесь, чтобы защитить вас. Даже для первоначального внедрения ИИ нам необходимо иметь некоторые из этих ранних решений и страховку, даже если это последняя миля. Они нам сейчас нужны».
Душевное спокойствие для пионеров искусственного интеллекта
Важно отметить, что Armilla Guaranteed не является страхованием ответственности, а скорее гарантийным продуктом, позволяющим улучшить оценку моделей. Процесс оценки Armilla включает как качественный, так и количественный анализ моделей, адаптированных к их конкретному варианту использования.
Оценка с помощью платформы Armilla может быть выполнена всего за несколько часов, что обеспечивает глубокое понимание любых рисков. Модели, прошедшие проверку, получат значок «Проверено Armilla».
«То, что мы предлагаем, — это опыт андеррайтинга. Оценка рисков этих моделей, количественная оценка этого риска и соответствующее ценообразование», — сказал Рамакришнан.
Является ли риск достаточно сдерживаемым и предсказуемым, чтобы его можно было застраховать?
Многообещающие первые отзывы клиентов
Платформа автоматизированного возмещения медицинских расходов BUDDI AI считает, что работа с Armilla стала «определяющим моментом», сказал Рам Сваминатан, генеральный директор и соучредитель BUDDI AI, в пресс-релизе. «Автоматизация на основе искусственного интеллекта в отрасли здравоохранения пронизана рисками, связанными с плохими клиническими данными, предвзятостью данных, неправильной интерпретацией клинического контекста и отклонениями в руководящих принципах по возмещению расходов».
Чтобы упростить преобразование записей пациентов в медицинские коды, используемые страховыми компаниями, и сократить количество отказов на 60 %, BUDDI AI использует алгоритмы глубокого обучения в сочетании со сложными системами, созданными экспертами, предлагая договорные гарантии точности более 95 % для медицинских кодов и страховых претензий. более 70% ежемесячных объемов.
Теперь тесты моделей BUDDI AI поддерживаются службой проверки продукции Armilla и гарантированной гарантией Armilla.
Непосредственно решая проблемы, связанные с качеством и рисками ИИ, Armilla Guaranteed стремится способствовать внедрению ответственных и надежных решений в области ИИ. Новое предложение представляет собой модель для отрасли, поскольку обеспокоенность по поводу того, как обеспечить производительность и результаты систем искусственного интеллекта, продолжает расти. Благодаря страховой поддержке компания намерена предоставить как поставщикам, так и клиентам большую уверенность и защиту.
«Нам не хватает щита, который защитил бы нас от этого неотъемлемого риска и дал бы нашим клиентам комфорт в сценариях «а что, если». Это гарантийное предложение — это то, чего ждала индустрия искусственного интеллекта, и оно очень помогло нам сократить циклы продаж больницам», — сказал Сваминатан.
[ad_2]
Источник
