Затемненный разум ИИ: Как хакеры переписывают правила кибербезопасности

В наше время, когда искусственный интеллект (ИИ) становится всё более мощным и доступным, киберпреступники не упускают возможности использовать эти технологии в своих целях. Согласно недавнему совместному исследованию OpenAI и Microsoft, опубликованному 14 февраля 2024 года, по их версии, как минимум пять государственных хакерских групп, включая Россию, а также хакеров из Китая, Ирана и Северной Кореи, активно экспериментируют с инструментами ИИ, такими как ChatGPT, для усовершенствования своих навыков в сфере кибератак.

Как написано в докладе, эти группы используют инструменты ИИ для различных целей: от отладки компьютерных программ до создания контента, который может быть использован в фишинговых атаках. Особенно интересно, что хакеры применяют эти технологии для исследований в области спутниковой связи и радиолокационного изображения, что указывает на высокий уровень их технической подготовки и амбициозные цели.

Северокорейская группа Emerald Sleet, в свою очередь, использует ИИ для поиска экспертов и организаций в области оборонных технологий, что может указывать на попытки собирать разведданные или подготавливать более масштабные кибератаки.

OpenAI и Microsoft, хотя и признают потенциальные риски, утверждают, что их модели ИИ предоставляют ограниченные возможности для злоупотребления в сфере кибербезопасности. Более того, они активно работают над предотвращением неправомерного использования своих технологий, блокируя доступ к инструментам генеративного ИИ для подозрительных пользователей и мониторя свои сервисы.

Эти открытия приходят в критический момент, когда мир всё больше зависит от цифровых технологий, и подчёркивают необходимость постоянного мониторинга и обновления мер безопасности, чтобы противостоять новым угрозам, возникающим в связи с развитием ИИ.

Сфера ИИ, безусловно, находится на перепутье. С одной стороны, она предлагает невероятные возможности для развития и улучшения жизни людей, но с другой — открывает новые горизонты для киберпреступников. Важно, чтобы разработчики и исследователи ИИ продолжали работать над созданием безопасных и надёжных систем, которые могли бы предотвратить неправомерное использование этих мощных технологий.