[ad_1]
Присоединяйтесь к нам в Атланте 10 апреля и изучите ситуацию в сфере безопасности. Мы рассмотрим концепцию, преимущества и варианты использования ИИ для служб безопасности. Запросите приглашение здесь.
MineOS, платформа конфиденциальности и управления корпоративными данными, объявила на этой неделе о запуске нового модуля AI-обнаружения и оценки рисков, предназначенного для заглядывания в «черный ящик» искусственного интеллекта и предоставления компаниям прозрачности, необходимой для управления этими мощными, но непрозрачными технологии.
По словам соучредителя и генерального директора Mine Гала Рингеля, это объявление последовало сразу за крупными достижениями в области искусственного интеллекта, такими как ChatGPT и Gemini, которые вызвали растущий спрос на надзор. «Управление ИИ было в центре внимания в мире технологий с момента выпуска ChatGPT, и я думаю, что мы наблюдаем эту цепную реакцию более широко во всем обществе с крупными расследованиями конфиденциальности в области технологий genAI и принятием ЕС Закона об ИИ», — сказал Рингель. в интервью VentureBeat.
Хотя системы искусственного интеллекта, такие как большие языковые модели (LLM), могут обеспечить огромные преимущества, их внутренняя работа часто невидима для пользователей. Это привело к растущей обеспокоенности по поводу потенциального вреда, связанного с безопасностью, этикой, конфиденциальностью и многим другим.
Пробел в управлении ИИ
Вообще говоря, структуры и решения для предприятий, позволяющие эффективно управлять разработкой и использованием ИИ, появляются медленно.
«Проблема во многих случаях с непрозрачностью ИИ заключается в том, что организации вообще не знают, что их используют, что добавляет неприемлемый уровень неопределенности и риска, который мы стремимся устранить», — сказал Рингель VentureBeat.
Этот пробел в управлении привлек внимание законодателей, поскольку такие правила, как Закон ЕС об искусственном интеллекте, устанавливают новые требования к оценке. Однако создание и внедрение средств контроля остается проблемой для многих компаний.
Освещение ‘черный ящик’
MineOS использует комбинацию сканирования системы и анализа метаданных электронной почты для обнаружения практически всех систем данных и инструментов искусственного интеллекта, используемых в организации, как сторонних, так и внутренних.
Это позволяет компаниям составить карту своего ландшафта ИИ и соблюдать новые правила.
«Наша система обнаружения электронной почты исследует метаданные электронных писем в поисках таких вещей, как счета-фактуры и уведомления о подписке, чтобы обнаружить дополнительные системы данных», — объяснил Рингель. «Если сотрудник использует ChatGPT, Grammarly или другую систему на базе искусственного интеллекта, его электронная почта будет отслеживаться, и мы можем подтвердить это, не просматривая содержание самих писем».
Как только системы искусственного интеллекта будут обнаружены, клиенты MineOS смогут анализировать риски, создавать правила управления, адаптированные к новым законам, и проводить проверки для подтверждения соответствия. Этот комплексный подход призван сделать управление ИИ беспрепятственным.
Конкурентная среда
MineOS входит во все более насыщенное пространство, сталкиваясь с такими технологическими гигантами, как IBM, Microsoft и Google, которые быстро наращивают возможности управления ИИ.
Однако компания считает, что ее ДНК, ориентированная на конфиденциальность, дает ей преимущество. «Конфиденциальность данных есть и будет основным принципом управления ИИ», — сказал Рингель. «Как продукт и компания, которые применили инновационный подход к конфиденциальности данных, наш опыт в автоматизации важнейших операций по управлению данными, таких как картографирование, дал нам невероятно прочную основу для управления управлением ИИ».
Благодаря финансированию в размере 42,5 миллионов долларов США от ведущих инвесторов, таких как фонд искусственного интеллекта Google Gradient Ventures, MineOS надеется, что ее подход, ориентированный на конфиденциальность, сделает ее лидером в освещении «черного ящика» искусственного интеллекта для предприятий во всем мире. Но в гонке с высокими ставками за определение будущего управления ИИ ничего не гарантировано.
[ad_2]
Источник
