Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Исследователи рассказали о новых кибератаках, в которых злоумышленники используют модель Text-to-SQL для создания вредоносного кода, позволяющего собирать конфиденциальную информацию и проводить DoS-атаки.

«Для лучшего взаимодействия с пользователями БД-приложения применяют ИИ-технологии, способные переводить вопросы человека в SQL-запросы. Такая техника носит название Text-to-SQL», — объясняет один из специалистов Шеффилдского университета Ксютан Пень.

«Мы выяснили, что злоумышленники могут обойти модели Text-to-SQL и создать вредоносный код с помощью специально подготовленных вопросов. В результате это может привести к утечке данных или DoS, поскольку злонамеренный код будет выполняться в базе данных».

Согласно отчёту, эксперты тестировали свои выводы на двух коммерческих решениях — BAIDU-UNIT и AI2sql. Таким образом у них получился первый в истории случай, когда модели обработки текстов на естественном языке (Natural Language Processing, NLP) использовались в качестве вектора кибератаки.

Так называемые «атаки чёрного ящика» можно сравнить с SQL-инъекцией, когда вредоносная нагрузка копируется в сконструированный SQL-запрос. В итоге такие запросы могут позволить атакующему модифицировать базы данных бэкенда и вызвать DoS на сервере.

 

Кроме того, эксперты изучали возможность компрометации предварительно обученных языковых моделей (PLM), что должно было приводить к генерации вредоносных команд по специальным триггерам.

«Есть много способов установки бэкдоров в PLM-фреймворках: замена слов, разработка специальных подсказок и модификация стилей», — отмечают исследователи.

Атаки бэкдора на четыре разные модели с открытым исходным кодом — BART-BASE, BART-LARGE, T5-BASE и T5-3B — показали 100-проценную успешность с незначительным влиянием на производительность. В реальном сценарии такие атаки будет трудно детектировать.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Госдуму внесено два законопроекта по противодействию мошенникам

Правительство внесло в Госдуму два законопроекта, которые наделяют следственные органы правом приостанавливать операции по счетам граждан при подозрении, что средства были похищены. Временная блокировка будет действовать до 10 дней и коснётся только той суммы, которая была украдена.

Как сообщает «Коммерсант», документы предусматривают поправки в Уголовно-процессуальный кодекс (УПК) и закон «О банках и банковской деятельности».

В пояснительной записке отмечается, что законопроекты разработаны «в целях повышения оперативности и эффективности противодействия преступлениям, связанным с хищением и выводом денежных средств с использованием информационно-телекоммуникационных технологий». С инициативой выступил председатель Следственного комитета Александр Бастрыкин на коллегии ведомства в феврале 2025 года. Сейчас действующее законодательство предусматривает возможность ареста активов только по решению суда.

«У следствия нет сегодня инструмента, с помощью которого можно адекватно реагировать на изменившуюся ситуацию. Проектируемая норма может стать таким средством и существенно ускорить реакцию правоохранительных органов на попытки хищения средств, — считает заведующий кафедрой экономической безопасности и управления рисками Финансового университета при правительстве РФ Игорь Лебедев. — По сути, у нас нет другого выхода: необходимо менять подход к реагированию на действия мошенников, и если для этого нужно ограничить права меньшинства ради защиты прав большинства, то это следует сделать».

Он также отметил, что в документе предусмотрен чёткий механизм контроля за действиями следователей.

«По нашим подсчётам, если блокировать подозрительный счёт в течение трёх часов, это увеличивает объём возвращаемых средств на 30%. При этом любое промедление резко снижает вероятность возврата», — пояснил МВА-профессор бизнес-практики по цифровым финансам президентской академии РАНХиГС Алексей Войлуков.

«Процедуры, предусмотренные действующим УПК, не позволяют оперативно реагировать на хищения средств в современных условиях, — отмечает глава Национального совета финансового рынка Андрей Емелин. — Новый механизм, хоть и является самым быстрым из предусмотренных законом, будет действительно эффективным только при условии внедрения ещё более оперативных мер на стороне банков».

«Важно понимать, что приостановка операций возможна только по инициативе следователя с согласия руководителя следственного органа или дознавателя с санкции прокурора — и лишь в экстренных случаях, — подчеркнул руководитель аппарата правительства РФ Дмитрий Григоренко. — В течение указанного срока в суд должно быть направлено ходатайство о наложении ареста на имущество либо вынесено постановление об отмене блокировки».

Григоренко также заверил, что новые меры не приведут к нарушению банковской тайны, поскольку они являются частью процессуальных действий и предполагают последующий судебный контроль.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru