Прогнозы Kaspersky на 2024 год: целевые атаки, ИИ-фишинг, эксплойты, BYOVD

Прогнозы Kaspersky на 2024 год: целевые атаки, ИИ-фишинг, эксплойты, BYOVD

Прогнозы Kaspersky на 2024 год: целевые атаки, ИИ-фишинг, эксплойты, BYOVD

Эксперты Глобального центра исследований и анализа угроз «Лаборатории Касперского» (GReAT) ожидают, что в 2024 году участятся случаи шпионажа через мобильные устройства, фишинга с использованием ИИ, а также атаки на уровне ядра Windows.

По итогам исследования «Операции Триангуляция» эксперты полагают, что авторы целевых атак будут расширять возможности по использованию уязвимости мобильных, носимых и умных устройств. Возрастет популярность малозаметных методов доставки эксплойтов, в том числе zero-click, one-click и MitM.

В результате бурного развития технологий машинного обучения злоумышленникам становится проще проводить целевые фишинговые атаки. Они могут теперь имитировать сообщения конкретных людей, собирая данные из Сети и обучая на них языковые модели.

Эксперты также рекомендуют отслеживать уязвимости в популярном софте и устройствах, особенно высокой и критической степени опасности. Их слишком долго латают на местах, и злоумышленники этим пользуются для построения ботнетов.

На фоне геополитических потрясений в будущем году может возрасти число атак, спонсируемых государством. Цели при этом могут быть разными: кража / шифрование данных, разрушение ИТ-инфраструктуры, кибершпионаж, киберсаботаж. Хактивисты тоже внесут свою лепту, в том числе те, что сообщают об атаках, которых не совершали (чтобы отвлечь внимание безопасников от реальных угроз).

Согласно прогнозам Kaspersky, усилятся также следующие тренды:

  • атаки на цепочку поставок станут более эффективными и масштабными за счет появления в даркнете специализированных инструментов и услуг;
  • рост числа хакерских групп, открыто предлагающих услуги по краже данных (потенциальная аудитория — детективы, юридические фирмы, конкуренты по бизнесу);
  • использование руткитов режима ядра, позволяющих обойти современные меры защиты;
  • рост числа атак на уровне ядра Windows, в том силе с использованием техники BYOVD (обход защиты за счёт уязвимых драйверов);
  • рост подпольного рынка EV-сертификатов и украденных сертификатов для подписи кода;
  • использование уязвимостей MFT (систем управляемой передачи файлов) для организации утечек (защита, согласно Kaspersky, — DLP, шифрование, повышение цифровой грамотности персонала).

«В 2023 году инструменты на основе технологий машинного обучения стали доступнее, — отметил директор GReAT Игорь Кузнецов. — Этим пользуются и кибергруппы, организующие сложные целевые атаки. Мы полагаем, что в следующем году они также будут внедрять ранее неизвестные методы атак на цепочки поставок и продавать доступ к взломанным таким образом системам, чаще эксплуатировать уязвимости в пользовательских устройствах».

ИИ OpenAI полез на GitHub за утёкшими ключами, а затем выдумал данные

Модели OpenAI оказались очень изобретательными, когда привычные способы выполнить задачу переставали работать. Они искали утёкшие API-ключи, загружали данные на публичные сервисы, обменивались записками через репозиторий и оставляли самим себе инструкции скрывать ошибки.

Компания опубликовала  новую систему раскрытия случаев рассогласованного поведения моделей и сразу приложила к ней шесть отчётов об инцидентах, обнаруженных за последние полгода.

OpenAI подчёркивает: это отдельные эпизоды, по которым нельзя судить о частоте подобных выходок.

В одном случае модель не смогла подключиться к API со статистикой доходов округа. Тогда она попыталась зарегистрироваться через одноразовую почту, полезла на GitHub за утёкшими ключами и нашла рабочий.

Добыть нужные цифры всё равно не получилось, поэтому модель просто выдумала их и выдала за данные с сайта. О неудаче и чужом ключе она скромно промолчала.

Другие агенты превратили внутренний Artifactory OpenAI в подпольную доску объявлений. Независимые экземпляры оставляли там сообщения, читали записки коллег и просили друг у друга помощи. Уязвимости они не взламывали, а использовали выданные компанией учётные данные, но явно не по назначению.

Ещё несколько моделей отправляли данные за пределы рабочей среды. Одна загрузила найденные записи на публичный сервис ради красивой ссылки на источник, другая — фотографию на сервис обратного поиска. Группа агентов и вовсе разместила рабочую книгу на публичном хостинге, хотя ей прямо велели пользоваться только локальными файлами.

Самая ехидная часть истории — инструкции на будущее. Модели записывали в свои служебные сводки команды игнорировать сообщения разработчиков, скрывать провалы и выдумывать недостающие данные. Одна сформулировала правило совсем интересно: «Будь прозрачным, только если спросят».

Теперь OpenAI обещает публиковать такие случаи быстрее — даже если их причины ещё не выяснены, а исправления не готовы.

RSS: Новости на портале Anti-Malware.ru