Преступлений с применением генеративного ИИ станет в 10 раз больше

Преступлений с применением генеративного ИИ станет в 10 раз больше

Преступлений с применением генеративного ИИ станет в 10 раз больше

По оценкам экспертов, в 2025 году количество преступлений, совершённых с использованием генеративного искусственного интеллекта (ИИ), может увеличиться в 10 раз по сравнению с 2024 годом.

Причём данные технологии начнут активно применять не только киберпреступники, но и представители традиционного криминального мира.

Первым известным случаем использования генеративного ИИ для реального преступления стал подрыв электромобиля Tesla Cybertruck у отеля Trump International в Лас-Вегасе 1 января. Злоумышленник воспользовался ChatGPT для планирования атаки.

«Рост преступлений, связанных с ИИ, официально не фиксируется, однако его масштабы можно оценить по числу ботов и сгенерированного ими контента. В 2025 году прирост подобных преступлений может составить от восьми до десятикратного увеличения по сравнению с предыдущим годом», — заявил руководитель департамента расследований T.Hunter Игорь Бедеров в комментарии для «Известий». Он отметил, что меры защиты можно обойти с помощью простых методов промт-инжиниринга, например, внедряя инструкции по созданию взрывных устройств в текстах художественных произведений.

По мнению экспертов, в 2025 году генеративный ИИ будут использовать до 90% киберпреступных группировок. Инструменты ИИ для составления фишинговых сообщений уже давно освоены, и их применение будет только расти. Генеральный директор Phishman Алексей Горелкин считает, что технологии нейросетей и чат-ботов могут взять на вооружение до 90% группировок, специализирующихся на социальной инженерии.

Старший аналитик Positive Technologies Екатерина Снегирёва подчеркнула, что генеративный ИИ активно используется для создания и модификации вредоносного кода.

Так, в июне 2024 года была зафиксирована фишинговая атака с использованием вредоносных скриптов, сгенерированных нейросетями. При этом 38% компаний применяют генеративный ИИ бесконтрольно, что значительно повышает риск утечек данных.

Эксперты F.A.C.C.T. прогнозируют: в 2025 году возрастёт число атак с использованием технологий дипфейков, массового автоматизированного фишинга и совершенствования методов поиска уязвимостей в программных системах. Впрочем, уже в 2024 году массовое использование дипфейков стало реальностью благодаря инструментам, позволяющим имитировать голос в режиме реального времени.

В России ситуация будет менее острой. Это связано с ограниченной доступностью зарубежных расширенных версий генеративного ИИ для граждан и встроенными мерами защиты в российских аналогах. Например, в отечественных системах предусмотрены фильтры на ключевые стоп-слова, которые невозможно обойти. Тем не менее регулирование использования генеративного ИИ требует постоянного уточнения и адаптации.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Мошенники массово продают путевки в несуществующие детские лагеря

С наступлением лета мошенники традиционно начинают использовать тему детского отдыха: предлагают путёвки в несуществующие лагеря или под предлогом продажи выманивают у потенциальных жертв персональные и платёжные данные. В этом сезоне новое развитие получили схемы с использованием дипфейков — в рекламных материалах и фальшивых отзывах.

Как отметил в комментарии для «Известий» начальник отдела информационной безопасности компании «Код Безопасности» Алексей Коробченко, злоумышленники пользуются тем, что родители стремятся найти доступные по цене варианты летнего отдыха для детей, и предлагают сомнительные или вовсе несуществующие услуги.

По словам Марии Михайловой, руководителя группы защиты бренда Angara SOC, преступники, как и в других мошеннических схемах, создают ощущение срочности: предлагают якобы «горящие» туры и требуют внести оплату как можно быстрее, иначе предложение исчезнет.

Злоумышленники при этом используют профессиональную лексику, свойственную турагентам, что способствует созданию доверительной атмосферы. Помимо сбора денежных средств, как предупреждает Михайлова, мошенники могут также перехватывать учётные данные от портала Госуслуг — якобы для авторизации на страницах, где якобы оформляется покупка путёвок.

Руководитель группы аналитиков по информационной безопасности Лиги цифровой экономики Виталий Фомин обращает внимание, что мошенники маскируют дизайн фишинговых сайтов под реальные страницы детских лагерей.

Та же тактика применяется и в социальных сетях. Преступники могут выдавать себя за представителей организаций, которые якобы выделяют путёвки. Основная целевая аудитория таких схем — родители детей младшего и среднего школьного возраста, в первую очередь из регионов.

Также, как подчёркивает Фомин, повышенному риску подвержены семьи, где выбор лагеря поручают самому ребёнку. Из-за недостаточного опыта дети не могут отличить фальшивый сайт от настоящего, особенно когда ресурсы продвигаются с помощью SMM-инструментов в поисковых системах. Кроме того, мошенники активно используют искусственный интеллект для генерации поддельных отзывов.

Старший аналитик департамента защиты от цифровых рисков компании F6 Мария Синицына напоминает, что схемы со сбором предоплаты за путёвки появляются ежегодно. По аналогичной логике действуют мошенники, предлагая бронирование отелей. Часто они используют тот факт, что родители приобретают путёвки в последний момент.

Кроме того, как предупреждает Синицына, злоумышленники нередко предлагают установить вредоносную программу, через которую якобы нужно оформить покупку путёвки.

Чтобы не стать жертвой мошенников, эксперты рекомендуют внимательно проверять сайты и страницы. Даже при внешнем сходстве с официальными ресурсами у поддельных есть отличительные признаки — например, недавняя регистрация домена (её можно проверить через сервис Whois) и мелкие несоответствия в оформлении.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru