Преступлений с применением генеративного ИИ станет в 10 раз больше

Преступлений с применением генеративного ИИ станет в 10 раз больше

Преступлений с применением генеративного ИИ станет в 10 раз больше

По оценкам экспертов, в 2025 году количество преступлений, совершённых с использованием генеративного искусственного интеллекта (ИИ), может увеличиться в 10 раз по сравнению с 2024 годом.

Причём данные технологии начнут активно применять не только киберпреступники, но и представители традиционного криминального мира.

Первым известным случаем использования генеративного ИИ для реального преступления стал подрыв электромобиля Tesla Cybertruck у отеля Trump International в Лас-Вегасе 1 января. Злоумышленник воспользовался ChatGPT для планирования атаки.

«Рост преступлений, связанных с ИИ, официально не фиксируется, однако его масштабы можно оценить по числу ботов и сгенерированного ими контента. В 2025 году прирост подобных преступлений может составить от восьми до десятикратного увеличения по сравнению с предыдущим годом», — заявил руководитель департамента расследований T.Hunter Игорь Бедеров в комментарии для «Известий». Он отметил, что меры защиты можно обойти с помощью простых методов промт-инжиниринга, например, внедряя инструкции по созданию взрывных устройств в текстах художественных произведений.

По мнению экспертов, в 2025 году генеративный ИИ будут использовать до 90% киберпреступных группировок. Инструменты ИИ для составления фишинговых сообщений уже давно освоены, и их применение будет только расти. Генеральный директор Phishman Алексей Горелкин считает, что технологии нейросетей и чат-ботов могут взять на вооружение до 90% группировок, специализирующихся на социальной инженерии.

Старший аналитик Positive Technologies Екатерина Снегирёва подчеркнула, что генеративный ИИ активно используется для создания и модификации вредоносного кода.

Так, в июне 2024 года была зафиксирована фишинговая атака с использованием вредоносных скриптов, сгенерированных нейросетями. При этом 38% компаний применяют генеративный ИИ бесконтрольно, что значительно повышает риск утечек данных.

Эксперты F.A.C.C.T. прогнозируют: в 2025 году возрастёт число атак с использованием технологий дипфейков, массового автоматизированного фишинга и совершенствования методов поиска уязвимостей в программных системах. Впрочем, уже в 2024 году массовое использование дипфейков стало реальностью благодаря инструментам, позволяющим имитировать голос в режиме реального времени.

В России ситуация будет менее острой. Это связано с ограниченной доступностью зарубежных расширенных версий генеративного ИИ для граждан и встроенными мерами защиты в российских аналогах. Например, в отечественных системах предусмотрены фильтры на ключевые стоп-слова, которые невозможно обойти. Тем не менее регулирование использования генеративного ИИ требует постоянного уточнения и адаптации.

Уязвимость в Apex Legends позволяет управлять чужими персонажами

В популярном игре-батле Apex Legends обнаружили критическую уязвимость, которая позволяет злоумышленникам удалённо управлять вводом других игроков. Разработчик игры, компания Respawn Entertainment, уже подтвердил, что проблема реальна и уязвимость активно эксплуатируется.

Проще говоря, в ходе атаки посторонний человек может заставить персонажа двигаться, выполнять действия или, наоборот, полностью лишить игрока контроля — и всё это без взлома системы или внедрения кода.

По словам разработчиков, для атаки не требуется удалённое выполнение кода (RCE) или внедрение вредоносных файлов. Уязвимость работает на уровне самой игры — в механизмах обработки пользовательского ввода и взаимодействия клиента с сервером.

С точки зрения безопасности это важный момент: злоумышленники не получают доступ к компьютеру жертвы, но всё равно могут серьёзно вмешиваться в игровой процесс. В соревновательных режимах такой контроль может напрямую влиять на результаты матчей и рейтинги.

Respawn не раскрывает технических деталей, но специалисты предполагают, что проблема кроется в протоколах обмена данными между клиентом и сервером или в проверке команд управления во время матча.

В подобных сценариях атака возможна из-за:

  • слабой проверки подлинности игровых команд;
  • ошибок в сетевом взаимодействии;
  • некорректной валидации изменений состояния персонажа.

В результате злоумышленник может принудительно перемещать персонажа, активировать способности или мешать нормальному управлению.

Сколько именно игроков уже столкнулись с проблемой — неизвестно. Однако сам факт публичного заявления Respawn говорит о том, что уязвимость эксплуатируется «в дикой природе», а не является чисто теоретической.

Игрокам рекомендуют обращать внимание на странное поведение в матчах — самопроизвольные движения, действия без нажатия клавиш или потерю контроля над персонажем.

Respawn Entertainment уже работает над устранением проблемы, но сроков выхода патча пока не называет. Пока обновление не выпущено, разработчики советуют:

  • включить двухфакторную аутентификацию;
  • сменить пароль, если есть подозрения на компрометацию аккаунта;
  • по возможности воздержаться от рейтинговых матчей;
  • сообщать обо всех подозрительных ситуациях в службу поддержки.

Respawn стоит отдать должное за открытую коммуникацию с игроками, но до выхода исправлений риск сохраняется. Разработчики пообещали делиться дополнительной информацией по мере расследования и подготовки патча.

RSS: Новости на портале Anti-Malware.ru