Преступлений с применением генеративного ИИ станет в 10 раз больше

Преступлений с применением генеративного ИИ станет в 10 раз больше

Преступлений с применением генеративного ИИ станет в 10 раз больше

По оценкам экспертов, в 2025 году количество преступлений, совершённых с использованием генеративного искусственного интеллекта (ИИ), может увеличиться в 10 раз по сравнению с 2024 годом.

Причём данные технологии начнут активно применять не только киберпреступники, но и представители традиционного криминального мира.

Первым известным случаем использования генеративного ИИ для реального преступления стал подрыв электромобиля Tesla Cybertruck у отеля Trump International в Лас-Вегасе 1 января. Злоумышленник воспользовался ChatGPT для планирования атаки.

«Рост преступлений, связанных с ИИ, официально не фиксируется, однако его масштабы можно оценить по числу ботов и сгенерированного ими контента. В 2025 году прирост подобных преступлений может составить от восьми до десятикратного увеличения по сравнению с предыдущим годом», — заявил руководитель департамента расследований T.Hunter Игорь Бедеров в комментарии для «Известий». Он отметил, что меры защиты можно обойти с помощью простых методов промт-инжиниринга, например, внедряя инструкции по созданию взрывных устройств в текстах художественных произведений.

По мнению экспертов, в 2025 году генеративный ИИ будут использовать до 90% киберпреступных группировок. Инструменты ИИ для составления фишинговых сообщений уже давно освоены, и их применение будет только расти. Генеральный директор Phishman Алексей Горелкин считает, что технологии нейросетей и чат-ботов могут взять на вооружение до 90% группировок, специализирующихся на социальной инженерии.

Старший аналитик Positive Technologies Екатерина Снегирёва подчеркнула, что генеративный ИИ активно используется для создания и модификации вредоносного кода.

Так, в июне 2024 года была зафиксирована фишинговая атака с использованием вредоносных скриптов, сгенерированных нейросетями. При этом 38% компаний применяют генеративный ИИ бесконтрольно, что значительно повышает риск утечек данных.

Эксперты F.A.C.C.T. прогнозируют: в 2025 году возрастёт число атак с использованием технологий дипфейков, массового автоматизированного фишинга и совершенствования методов поиска уязвимостей в программных системах. Впрочем, уже в 2024 году массовое использование дипфейков стало реальностью благодаря инструментам, позволяющим имитировать голос в режиме реального времени.

В России ситуация будет менее острой. Это связано с ограниченной доступностью зарубежных расширенных версий генеративного ИИ для граждан и встроенными мерами защиты в российских аналогах. Например, в отечественных системах предусмотрены фильтры на ключевые стоп-слова, которые невозможно обойти. Тем не менее регулирование использования генеративного ИИ требует постоянного уточнения и адаптации.

Роскомнадзор проиграл кассацию по делу об утечке данных РЖД

Роскомнадзор проиграл ещё один раунд в громком деле об утечке данных РЖД. Арбитражный суд Московского округа оставил в силе решение апелляции, которая ранее отменила штраф в отношении компании. Спор начался после того, как в телеграм-каналах появилась база данных сотрудников РЖД объёмом более 17 миллионов записей.

После инцидента Роскомнадзор добился привлечения компании к ответственности по части 1 статьи 13.11 КоАП РФ за нарушение требований к обработке персональных данных.

Однако в феврале 2026 года Девятый арбитражный апелляционный суд отменил этот штраф. Суд пришёл к выводу, что сама по себе утечка ещё не доказывает вину оператора персональных данных.

Апелляция указала, что инцидент стал результатом целенаправленной кибератаки, по факту которой было возбуждено уголовное дело. При этом Роскомнадзор не смог показать, какие именно меры защиты РЖД обязана была внедрить, но не внедрила.

Регулятор попытался оспорить такой подход в кассации, однако Арбитражный суд Московского округа поддержал позицию апелляционной инстанции и отказался пересматривать её выводы.

Фактически суд подтвердил важный для отрасли принцип: наличие утечки не означает автоматического признания компании виновной. Для привлечения к ответственности необходимо доказать, что оператор не выполнил конкретные требования по защите данных или допустил нарушения.

Для бизнеса это решение может стать одним из наиболее заметных судебных прецедентов последних лет в сфере персональных данных. Позиция о недопустимости так называемого объективного вменения при утечках теперь устояла сразу в трёх судебных инстанциях.

Впрочем, точку в истории ставить пока рано. У Роскомнадзора остаётся возможность обратиться в Верховный суд России.

RSS: Новости на портале Anti-Malware.ru