Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Модели Text-to-SQL можно использовать для кражи данных или DoS

Исследователи рассказали о новых кибератаках, в которых злоумышленники используют модель Text-to-SQL для создания вредоносного кода, позволяющего собирать конфиденциальную информацию и проводить DoS-атаки.

«Для лучшего взаимодействия с пользователями БД-приложения применяют ИИ-технологии, способные переводить вопросы человека в SQL-запросы. Такая техника носит название Text-to-SQL», — объясняет один из специалистов Шеффилдского университета Ксютан Пень.

«Мы выяснили, что злоумышленники могут обойти модели Text-to-SQL и создать вредоносный код с помощью специально подготовленных вопросов. В результате это может привести к утечке данных или DoS, поскольку злонамеренный код будет выполняться в базе данных».

Согласно отчёту, эксперты тестировали свои выводы на двух коммерческих решениях — BAIDU-UNIT и AI2sql. Таким образом у них получился первый в истории случай, когда модели обработки текстов на естественном языке (Natural Language Processing, NLP) использовались в качестве вектора кибератаки.

Так называемые «атаки чёрного ящика» можно сравнить с SQL-инъекцией, когда вредоносная нагрузка копируется в сконструированный SQL-запрос. В итоге такие запросы могут позволить атакующему модифицировать базы данных бэкенда и вызвать DoS на сервере.

 

Кроме того, эксперты изучали возможность компрометации предварительно обученных языковых моделей (PLM), что должно было приводить к генерации вредоносных команд по специальным триггерам.

«Есть много способов установки бэкдоров в PLM-фреймворках: замена слов, разработка специальных подсказок и модификация стилей», — отмечают исследователи.

Атаки бэкдора на четыре разные модели с открытым исходным кодом — BART-BASE, BART-LARGE, T5-BASE и T5-3B — показали 100-проценную успешность с незначительным влиянием на производительность. В реальном сценарии такие атаки будет трудно детектировать.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Минцифры обяжет спутниковых операторов ставить СОРМ для связи 5G

Минцифры планирует обязать спутниковых операторов устанавливать на своих наземных станциях оборудование для отслеживания трафика при прямом подключении устройств 5G к зарубежным низкоорбитальным спутниковым сетям. Мера призвана исключить появление неконтролируемых каналов связи, которые могут представлять угрозу безопасности и обходить государственный контроль.

Ведомство опубликовало проект новых требований к спутниковым операторам при организации связи 5G. В документе прописаны следующие меры:

  • Получение частот в ГКРЧ;
  • Создание наземных станций сопряжения;
  • Установка оборудования системы оперативно-разыскных мероприятий (СОРМ);
  • Подключение к системе технических средств противодействия угрозам (ТСПУ).

Цель этих требований — создать законную базу для использования зарубежных низкоорбитальных спутниковых систем. Без этого прямое подключение 5G-устройств к таким сетям может стать неконтролируемым каналом связи и потенциальной угрозой.

Системы прямой связи между спутником и смартфоном (Direct to Cell, DTC) уже интегрированы во многие устройства. Они способны подключаться к группировкам SpaceX (Starlink), Amazon (Kuiper), Qianfan (Spacesail Constellation), «Бюро 1440» и другим. При этом технически блокировать такую связь невозможно.

Как заявили в Минцифры, документ определяет порядок использования телефонов стандарта 5G в режиме спутниковой связи. Он распространяется на любые терминалы — как российские, так и зарубежные, и повторяет требования, установленные для отечественных мобильных операторов.

По оценкам министерства, затраты операторов спутниковой связи на выполнение новых норм превысят 3 млрд рублей за шесть лет. Если документ примут, он вступит в силу в марте 2026 года и будет действовать до сентября 2028-го. За невыполнение норм предусмотрены штрафы: от 10 до 30 тыс. рублей для должностных лиц и от 500 тыс. до 1 млн рублей для юридических.

По словам директора департамента расследований T.Hunter Игоря Бедерова, в Россию по параллельному импорту могут попадать спутниковые 5G-терминалы американских Iridium и SpaceX, британской Inmarsat и Thuraya. Основным каналом их ввоза являются ОАЭ. Ведутся и российские разработки, но они далеки от коммерческой стадии.

Такие устройства применяются для расширения покрытия мобильной связи в труднодоступных зонах, обеспечения связи при авариях и стихийных бедствиях. Терминалы Starlink активно используются в зоне боевых действий на Украине обеими сторонами конфликта. Во время сбоя в ночь на 25 июля пострадали как российские, так и украинские военные.

По словам Бедерова, неофициально ввезённые терминалы Starlink нередко используют для обхода государственного контроля и в различных криминальных схемах, что началось примерно год назад.

Схожую позицию высказал совладелец «Ка Интернет» Сергей Пехтерев. Он отметил, что подобное является нарушением не только российского законодательства, но и норм Международного союза электросвязи. При этом, по его мнению, обязать SpaceX выполнять требования российских регуляторов в условиях санкций практически невозможно.

По оценке Бедерова, если бы Илон Маск согласился разместить станцию сопряжения в России, установка на ней необходимого оборудования Минцифры была бы технически возможна, но в нынешней политической ситуации это маловероятно. В результате, считает он, стоит ожидать усиления борьбы с нелегальными терминалами Starlink и ускорения собственных спутниковых проектов. При этом в зоне боевых действий Starlink продолжат использовать, возможно, с усиленной криптозащитой.

«Возможность работы на территории России китайской низкоорбитальной спутниковой группировки — вопрос политический. Он будет зависеть от создания сети “Бюро 1440”, сроков запуска китайской системы и принципов её работы. Главным вопросом станет приземление трафика зарубежных спутниковых компаний на территории России и установка СОРМ на их сетях», — считает Сергей Пехтерев.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru