Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Исследователи рассказали о новых кибератаках, в которых злоумышленники используют модель Text-to-SQL для создания вредоносного кода, позволяющего собирать конфиденциальную информацию и проводить DoS-атаки.

«Для лучшего взаимодействия с пользователями БД-приложения применяют ИИ-технологии, способные переводить вопросы человека в SQL-запросы. Такая техника носит название Text-to-SQL», — объясняет один из специалистов Шеффилдского университета Ксютан Пень.

«Мы выяснили, что злоумышленники могут обойти модели Text-to-SQL и создать вредоносный код с помощью специально подготовленных вопросов. В результате это может привести к утечке данных или DoS, поскольку злонамеренный код будет выполняться в базе данных».

Согласно отчёту, эксперты тестировали свои выводы на двух коммерческих решениях — BAIDU-UNIT и AI2sql. Таким образом у них получился первый в истории случай, когда модели обработки текстов на естественном языке (Natural Language Processing, NLP) использовались в качестве вектора кибератаки.

Так называемые «атаки чёрного ящика» можно сравнить с SQL-инъекцией, когда вредоносная нагрузка копируется в сконструированный SQL-запрос. В итоге такие запросы могут позволить атакующему модифицировать базы данных бэкенда и вызвать DoS на сервере.

 

Кроме того, эксперты изучали возможность компрометации предварительно обученных языковых моделей (PLM), что должно было приводить к генерации вредоносных команд по специальным триггерам.

«Есть много способов установки бэкдоров в PLM-фреймворках: замена слов, разработка специальных подсказок и модификация стилей», — отмечают исследователи.

Атаки бэкдора на четыре разные модели с открытым исходным кодом — BART-BASE, BART-LARGE, T5-BASE и T5-3B — показали 100-проценную успешность с незначительным влиянием на производительность. В реальном сценарии такие атаки будет трудно детектировать.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Отключение Skype запустит волну мошенничеств и фишинга

Эксперты по кибербезопасности предупреждают: отключение Skype и переход пользователей на альтернативные платформы могут спровоцировать волну фишинговых атак и распространения вредоносных программ.

Skype прекратил работу 5 мая. Об этом стало известно ещё в конце февраля. В качестве замены Microsoft предлагает сервис Teams, включая бесплатную версию с базовым функционалом. Компания также пообещала сохранить пользовательские данные из Skype до января 2026 года.

Как отметила инженер-аналитик лаборатории исследований кибербезопасности компании «Газинформсервис» Ирина Дмитриева, отключение Skype может привести к резкому росту фишинговой активности. Мошенники будут эксплуатировать тревожность пользователей, опасающихся потерять свои данные.

В рассылках могут использоваться темы вроде: «Перенесите данные Skype в Teams», «Критические обновления Skype для миграции» или «Техническая поддержка по переносу данных». Такие сообщения будут вести на фальшивые сайты, замаскированные под ресурсы Microsoft, с целью кражи корпоративных учётных данных.

«Главный упор в подобных фишинговых письмах — это срочность: например, утверждение, что “журналы чатов будут удалены, если не выполнить переход немедленно”. Для убедительности во вложении могут находиться “инструкции”, содержащие вредоносный код», — поясняет Ирина Дмитриева.

Она сравнивает ситуацию с аналогичными событиями 2020 года, когда после прекращения поддержки Flash Player злоумышленники массово рассылали вредоносные файлы под видом обновлений. То же самое происходило при миграции с Hangouts на Google Chat.

Эксперт компании «Код Безопасности» Максим Александров предупреждает: к таким письмам могут прилагаться вредоносные ссылки или даже установочные файлы, замаскированные под легитимные инструменты.

По словам Ирины Дмитриевой, злоумышленники будут распространять зловреды под видом утилит для упрощения миграции на Teams. Возможна также рассылка вредоносных расширений в чатах, маскирующихся под техподдержку.

В зоне особого риска — многолетние активные пользователи Skype, которые только сейчас узнали об отключении сервиса. У многих из них накоплены объёмные архивы переписок, и они могут стать лёгкой добычей мошенников.

Особенно уязвимы малые и средние компании, для которых отключение привычного сервиса может нарушить бизнес-процессы.

«Для неопытных ИТ-специалистов попытка переноса данных может обернуться переходом по фишинговым ссылкам с предложениями “быстрой и лёгкой миграции” — то есть с установкой вредоносного ПО в комплекте. Итогом может стать утечка корпоративной информации», — подчёркивает Ирина Дмитриева.

По словам эксперта «Газинформсервиса», в случае крупных организаций ситуацией могут воспользоваться APT-группировки. Потенциальными точками входа станут целевые фишинговые атаки на администраторов, а также уязвимости в API-интеграциях.

Максим Александров рекомендует полностью удалить Skype. Любое неподдерживаемое ПО представляет угрозу безопасности. Новые приложения следует устанавливать исключительно из официальных магазинов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru