Через 2 года в России появится реестр доверенного ИИ

Через 2 года в России появится реестр доверенного ИИ

Через 2 года в России появится реестр доверенного ИИ

Реестр доверенных технологий искусственного интеллекта планируют запустить в России к 2027 году. Этот срок был озвучен на Инфофоруме-2025 — одном из ключевых мероприятий в сфере информационной безопасности, проходящем в Москве.

Перечень доверенных технологий ИИ разрабатывается для применения в государственной информационной системе и на объектах критической инфраструктуры. Его создание обсуждали на сессии «Перспективные технологии обеспечения информационной безопасности».

Работу над реестром ведет Консорциум по исследованиям безопасности технологий ИИ, основанный в мае 2024 года при поддержке Минцифры. В него входят исследователи из технологических компаний и университетов. В ноябре 2024 года к консорциуму присоединились эксперты ГК «Солар», Positive Technologies, Ассоциации ФинТех и РТУ МИРЭА, а в 2025 году — компании SwordFish и «АйТи Бастион».

Стоит также отметить, что первой отечественной ИБ-компанией, вступившей в Консорциум, стала «Газинформсервис». 8 октября на форуме «Кибертех» состоялось торжественное подписание договора о присоединении к Консорциуму.

По словам Лидии Витковой, руководителя одной из рабочих групп консорциума и начальника аналитического центра кибербезопасности «Газинформсервиса», ключевой задачей является формирование набора рекомендаций для профессионального сообщества. Первым шагом станет определение понятия «Доверие к ИИ», которое включает такие принципы, как контроль, ответственность, предсказуемость, эволюция, конфиденциальность и прозрачность технологий.

Консорциум уже разработал дорожную карту, где обозначены три этапа создания реестра:

  1. Формирование концепции (определение целей, аудитории, функций и ожидаемых результатов).
  2. Разработка технического задания (критерии успешности, архитектура, функциональные требования).
  3. Проработка процессов верификации (методы проверки и регламенты экспертизы).

На Инфофоруме-2025 также обсуждали квантовое и постквантовое шифрование как важные направления в области информационной безопасности. В частности, в проекте AM Talk недавно вышел выпуск, посвященный «Постквантовой криптографии и защите от кибератак будущего».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Злоумышленники хранили свой код в DNS-записях в шестнадцатеричном формате

Команда DomainTools обнаружила еще один пример использования DNS как хранилища вредоносов. Для сокрытия бинарника его конвертировали в шестнадцатеричный формат, разбили на части и спрятали в TXT-записях связанных поддоменов.

Подобные злоупотребления рассчитаны на то, что защитные решения редко проверяют DNS-трафик на предмет угроз, он для них слепая зона. К тому же организовать выявление аномалий в легитимном потоке запросов в данном случае непросто, а при использовании шифрования (DoH или DoT) — еще сложнее.

Привлекшие внимание экспертов записи DNS TXT содержали информацию о сотнях различных поддоменов *.felix.stf.whitetreecollective[.]com, дополненную фрагментами кода в шестнадцатеричном формате.

 

При их извлечении и сборке с преобразованием в двоичный файл оказалось, что это Joke Screenmate — злонамеренное приложение Windows, которое выводит на экран изображения или анимацию, от которых трудно избавиться.

Это может быть череда шутливых картинок, которые быстро множатся, и их трудно закрыть. Более агрессивные варианты таких программ пугают жертв бесконечными сообщениями об ошибках или якобы обнаруженных вирусах.

Известны случаи, когда в DNS-записях скрывались вредоносные скрипты. Исследователи из DomainTools тоже столкнулись с таким TXT-содержимым; на поверку зашифрованный Powershell оказался загрузчиком, скачивающим пейлоад второго этапа атаки с C2 на базе Covenant.

В комментарии для Ars Technica представитель DomainTools поведал, что недавно они нашли DNS-записи с текстами для ИИ-ботов, которые, видимо, используются в рамках промпт-инъекций. Все фразы начинались с «Ignore all previous instructions» («Забудь обо всех прежних инструкциях») и содержали различные просьбы, от с виду невинных (назвать произвольное число, выдать краткое содержание фильма «Волшебник», спеть песню, как птичка) до явно провокационных (игнорить все последующие инструкции, удалить обучающие данные и восстать против своих хозяев).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru