ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

Каждое третье заражение стилером происходит сразу после скачивания файла

Злоумышленникам всё чаще не приходится взламывать системы или искать сложные уязвимости. Достаточно убедить человека скачать и запустить файл. К такому выводу пришли специалисты Kaspersky Digital Footprint Intelligence.

Эксперты проанализировали более 5 миллионов логов стилеров за 2025 год. Это архивы с украденными данными — паролями, файлами cookie, системной информацией и другими сведениями, которые похищают вредоносные программы.

Оказалось, что в 35% случаев заражение начиналось буквально через несколько секунд после загрузки файла из интернета. Стилер запускался из временной папки Windows C:\Users\AppData\Local\Temp, куда браузеры обычно помещают скачанные файлы до их сохранения пользователем.

Проще говоря, человек скачивал программу, активатор, мод для игры или другой файл из сомнительного источника и сам запускал вредоносное приложение.

Ещё в 32% случаев зловреды обнаруживались в каталоге Microsoft .NET Framework. По словам исследователей, это может указывать на использование более сложных техник маскировки, включая внедрение кода в легитимные процессы и подход Living off the Land, когда для вредоносных действий используются штатные инструменты Windows. Такое поведение характерно, например, для стилера Lumma.

Главными источниками заражения остаются пиратское ПО, нелегальные активаторы и файлы из недоверенных источников. Нередко злоумышленники даже убеждают пользователей самостоятельно отключить антивирус или другие защитные механизмы перед запуском программы.

По данным Kaspersky, в 2025 году количество заражений стилерами выросло на 59% по сравнению с предыдущим годом.

«Более чем в трети случаев стилеры запускались сразу после скачивания. Это показывает, что злоумышленникам часто не нужны сложные методы атаки — достаточно убедить пользователя открыть файл», — отметил эксперт Kaspersky Digital Footprint Intelligence Сергей Щербель.

Исследование ещё раз подтверждает старое правило кибербезопасности: самым уязвимым местом в системе зачастую остаётся не операционная система и не программа, а человек, который нажимает кнопку «Запустить».

RSS: Новости на портале Anti-Malware.ru