Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Исследователи рассказали о новых кибератаках, в которых злоумышленники используют модель Text-to-SQL для создания вредоносного кода, позволяющего собирать конфиденциальную информацию и проводить DoS-атаки.

«Для лучшего взаимодействия с пользователями БД-приложения применяют ИИ-технологии, способные переводить вопросы человека в SQL-запросы. Такая техника носит название Text-to-SQL», — объясняет один из специалистов Шеффилдского университета Ксютан Пень.

«Мы выяснили, что злоумышленники могут обойти модели Text-to-SQL и создать вредоносный код с помощью специально подготовленных вопросов. В результате это может привести к утечке данных или DoS, поскольку злонамеренный код будет выполняться в базе данных».

Согласно отчёту, эксперты тестировали свои выводы на двух коммерческих решениях — BAIDU-UNIT и AI2sql. Таким образом у них получился первый в истории случай, когда модели обработки текстов на естественном языке (Natural Language Processing, NLP) использовались в качестве вектора кибератаки.

Так называемые «атаки чёрного ящика» можно сравнить с SQL-инъекцией, когда вредоносная нагрузка копируется в сконструированный SQL-запрос. В итоге такие запросы могут позволить атакующему модифицировать базы данных бэкенда и вызвать DoS на сервере.

 

Кроме того, эксперты изучали возможность компрометации предварительно обученных языковых моделей (PLM), что должно было приводить к генерации вредоносных команд по специальным триггерам.

«Есть много способов установки бэкдоров в PLM-фреймворках: замена слов, разработка специальных подсказок и модификация стилей», — отмечают исследователи.

Атаки бэкдора на четыре разные модели с открытым исходным кодом — BART-BASE, BART-LARGE, T5-BASE и T5-3B — показали 100-проценную успешность с незначительным влиянием на производительность. В реальном сценарии такие атаки будет трудно детектировать.

МВД зафиксировало двукратный рост онлайн-преступности среди подростков

Начальник управления по обеспечению охраны общественного порядка МВД Станислав Колесник на заседании рабочей группы в Госдуме, посвящённом совершенствованию законодательства в сфере профилактики безнадзорности и правонарушений несовершеннолетних, сообщил, что за последние четыре года количество преступлений, совершаемых подростками в онлайн-пространстве, выросло вдвое.

По словам Станислава Колесника, сейчас в интернете совершается около трети всех преступлений, в которых участвуют подростки. Слова представителя МВД приводит «Коммерсантъ».

В 2025 году общий рост подростковой преступности составил 10% после нескольких лет устойчивого снижения. По оценке МВД, эта тенденция во многом связана именно с увеличением числа преступлений в виртуальной среде.

Как считает представитель МВД, улучшить ситуацию могло бы более широкое использование возможностей центров временного содержания для несовершеннолетних правонарушителей. По его мнению, такие учреждения могут оказаться полезными в случаях, когда школа не справляется с профилактикой.

Директор департамента государственной политики в сфере защиты прав детей Минпросвещения Лариса Фальковская, в свою очередь, призвала активнее использовать психолого-педагогическое сопровождение детей. Однако, как отмечалось на заседании, штат таких специалистов укомплектован лишь наполовину.

По словам главы думского комитета по защите семьи Нины Останиной (КПРФ), нередко на одного специалиста приходится до 1,5 тыс. детей, и в таких условиях неудивительно, что отклонения в поведении не всегда удаётся заметить вовремя.

Главный внештатный педагог-психолог Минобразования Подмосковья Елена Солодова подчеркнула, что с детьми, и особенно с подростками старше 11 лет, необходимо работать именно в школе. По её мнению, только так можно вовремя выявлять риски девиантного поведения и стабилизировать ситуацию в детских коллективах.

Член экспертного совета при думском комитете по защите семьи Юрий Нестеренко предложил ориентироваться на зарубежный опыт и ограничить доступ детей к социальным сетям:

«В Австралии они запрещены детям до 16 лет, в Китае, Великобритании и Индии — до 18. Это тот вопрос, в котором можно опираться на международную практику».

RSS: Новости на портале Anti-Malware.ru