[ad_1]
Perception Point, платформа интернет-безопасности, представила свою последнюю инновацию для противодействия растущей волне угроз электронной почты, создаваемых искусственным интеллектом. Новая технология обнаружения компании использует модели большого языка (LLM) на базе искусственного интеллекта и архитектуру глубокого обучения для выявления и предотвращения атак компрометации деловой электронной почты (BEC), которым способствуют генеративные технологии искусственного интеллекта.
Преступники используют генеративную технологию искусственного интеллекта для проведения сложных и точно нацеленных атак на организации любого размера. Эта технология стала новым мощным инструментом для борьбы с киберпреступностью, особенно в области социальной инженерии и BEC-атак, поскольку она позволяет создавать высококачественные персонализированные электронные письма, напоминающие результаты человеческой деятельности.
Согласно недавнему отчету Verizon о расследовании утечки данных, более 50% инцидентов социальной инженерии можно отнести на счет BEC. Годовой отчет Perception Point за 2023 год также показывает рост попыток BEC на 83%.
Чтобы противостоять этой растущей угрозе, компания разработала инновационную модель обнаружения на основе LLM, в которой используются преобразователи — модели искусственного интеллекта, способные понимать семантический контекст текста, подобные известным LLM, таким как ChatGPT OpenAI и Bard Google.
Таким образом, решение может выявлять отдельные шаблоны в тексте, сгенерированном LLM, что является решающим фактором в обнаружении и предотвращении угроз, основанных на искусственном интеллекте.
За пределами устаревших решений безопасности
Perception Point утверждает, что традиционные поставщики систем безопасности часто не могут достичь требуемого уровня точности обнаружения с помощью контекстного и поведенческого анализа.
Компания заявляет, что, хотя передовые системы безопасности электронной почты используют контекстное и поведенческое обнаружение, им все еще сложно идентифицировать новые усовершенствованные атаки, которым способствует генеративный искусственный интеллект. Это связано с тем, что эти атаки обходят типичные шаблоны, для распознавания которых изначально были разработаны методы обнаружения.
Более того, компания утверждает, что решения, доступные в настоящее время на рынке, полагаются исключительно на обнаружение после доставки. Это означает, что вредоносное электронное письмо может находиться в почтовом ящике пользователя в течение длительного периода времени, прежде чем будет удалено.
«Устаревшие решения по обеспечению безопасности электронной почты, основанные на подписях и анализе репутации, с трудом могут остановить даже самые простые BEC-атаки без полезной нагрузки», — рассказал VentureBeat Таль Замир, технический директор Perception Point. «Основная сила нашей новой модели заключается в распознавании повторения идентифицируемых шаблонов в тексте, генерируемом LLM. В модели используется уникальная трехфазная архитектура, которая обнаруживает BEC с высочайшей скоростью обнаружения и сводит к минимуму ложные срабатывания».
Замир отметил, что отличие этого решения заключается в комплексном сканировании всех электронных писем и помещении в карантин тех из них, которые были определены как вредоносные, прежде чем они попадут в почтовый ящик пользователя. Он объяснил, что такой упреждающий подход устраняет риски и потенциальный ущерб, связанные с методами обнаружения, которые основаны на выявлении и устранении угроз после их проникновения в систему.
Кроме того, решение включает в себя управляемую службу реагирования на инциденты, освобождающую команды SOC клиентов от ответственности за быстрое реагирование на инциденты и развертывание новых алгоритмов в режиме реального времени для противодействия новым и возникающим угрозам.
Perception Point утверждает, что ее модель демонстрирует исключительную скорость обработки входящих электронных писем со средним временем 0,06 секунды. Первоначально модель была обучена на сотнях тысяч вредоносных образцов, собранных компанией, и постоянно обновляется новыми данными для оптимизации ее эффективности.
Использование генеративного искусственного интеллекта для минимизации атак по электронной почте
Замир из Perception Point сообщил, что в новых атаках киберпреступники используют поддельные электронные письма, чтобы выдать себя за доверенные организации. Используя методы социальной инженерии, злоумышленники обманом заставляют сотрудников переводить крупные суммы денег или раскрывать конфиденциальные данные.
«Злоумышленники используют тот факт, что сотрудники современного предприятия являются самым слабым звеном организации с точки зрения безопасности», — сказал Замир VentureBeat. «Они используют текстовые атаки BEC, которые обычно не содержат вредоносной полезной нагрузки, такой как URL-адреса или вредоносные файлы, и, таким образом, обходят традиционные системы безопасности электронной почты, попадая в почтовые ящики пользователей».
Он также заявил, что появление генеративного искусственного интеллекта, в частности LLM, дало толчок развитию выдачи себя за другое лицо, фишинга и атак BEC. Это достижение позволяет киберпреступникам действовать с большей скоростью и масштабом, чем когда-либо прежде.
«Задачи, которые когда-то требовали много времени и усилий, такие как целевые исследования, разведка, копирайтинг и дизайн, теперь могут быть выполнены за считанные минуты с помощью тщательно продуманных подсказок», — сказал Замир. «Это усиливает угрозу за счет расширения круга потенциальных жертв и значительного увеличения шансов на успешные атаки».
Чтобы уменьшить количество ложных срабатываний, возникающих в результате широкого использования генеративного искусственного интеллекта для законных электронных писем, Perception Point использует в своей модели особую трехфазную архитектуру.
После первоначального процесса оценки модель использует преобразователи и алгоритмы кластеризации для категоризации содержимого электронной почты. Объединяя результаты этих этапов с дополнительными данными, такими как репутация отправителя и информация о протоколе аутентификации, модель прогнозирует, создано ли электронное письмо с помощью ИИ, и определяет, представляет ли оно потенциальную угрозу.
«Наша модель динамически сканирует каждое электронное письмо, включая встроенные URL-адреса и файлы, с помощью запатентованного уровня обнаружения HAP (Hardware Assisted Platform). Это наша запатентованная песочница нового поколения, которая динамически сканирует контент на уровне процессора/памяти», — сказал Замир.
Что дальше с Perception Point?
Замир сказал, что его компания стремится развивать возможности искусственного интеллекта для просеивания огромных объемов данных, выявления потенциальных угроз и предоставления клиентам действенной информации.
Он подчеркнул, что интеграция ботов с генеративным искусственным интеллектом в приложения для совместной работы, такие как Slack или Teams, браузеры, такие как Edge, и службы облачного хранения, такие как Google Drive или OneDrive, создали новые возможности для потенциальных атак.
«Perception Point распознает эти возникающие угрозы, и мы разрабатываем решения безопасности на основе искусственного интеллекта, предназначенные для предотвращения, обнаружения и реагирования на постоянно растущую сложность ландшафта угроз», — сказал Замир. «Мы продолжим обеспечивать нашим клиентам возможность использовать возможности генеративного искусственного интеллекта без ущерба для своей безопасности».
[ad_2]
Источник
