Опасные стихи раскрыли уязвимости ИИ: до 60% успешных обходов

Екатерина Быстрова 25 Ноября 2025 - 09:46

GenAI (генеративный искусственный интеллект)

...

Опасные стихи раскрыли уязвимости ИИ: до 60% успешных обходов

Исследователи из DEXAI нашли нестандартный, но весьма результативный способ обхода защит современных языковых моделей: оказалось, что многие ИИ куда менее устойчивы к опасным запросам, если скрыть их в стихотворении. Команда протестировала 25 популярных нейросетей и выяснила, что «поэтические» запросы обходят защиту примерно в 60% случаев.

У отдельных моделей уровень уязвимости подбирался почти к 100%. Для эксперимента специалисты подготовили около двадцати опасных стихов — тексты, в которых вредоносный смысл сохранялся полностью, но был завуалирован рифмой и метафорами.

Темы брались самые жёсткие: от создания опасных веществ до методов манипуляции сознанием. Чтобы добиться нужного эффекта, исследователи сначала формулировали вредоносные запросы, а затем превращали их в стихи при помощи другой ИИ-модели.

Контраст получился впечатляющим. На прямые запросы модели давали опасные ответы лишь в 8% случаев, тогда как стихотворная форма увеличивала вероятность прорыва защит до 43% и выше.

Разницу в подходах к безопасности между западными и российскими ИИ-комплексами пояснил директор по ИИ «Группы Астра» Станислав Ежов. По его словам, западные LLM часто можно обойти «простыми метафорами», тогда как отечественные системы строятся по более строгой архитектуре — с контролем безопасности на каждом этапе.

Он отметил, что в компании внедряют доверенный ИИ-комплекс «Тессеракт», разработанный с защитой ключевых компонентов на уровне ФСТЭК.

Ежов подчёркивает:

«Проблема уязвимости ИИ — это не просто интересный технический нюанс, а вопрос стратегической безопасности. Поэтому внимание к качеству защитных механизмов сегодня становится критически важным».

Следующая главная новость »

Самые свежие новости ИТ и ИБ. Обзоры, аналитика, анонсы главных ивентов
Подписывайтесь на телеграм-канал!

Екатерина Быстрова 30 Июля 2026 - 19:03

Соответствие законодательству РФ Корпорации Системы аутентификации Соответствие требованиям регуляторов Компания «Актив»

ФСБ России сертифицировала Рутокен Чип 3127 с ключами на пять лет

Компания «Актив» получила сертификат ФСБ России на встраиваемую микросхему Рутокен Чип 3127 по классам КС1 и КС2. После дополнительных исследований срок действия закрытых криптографических ключей в ней увеличили до пяти лет.

Чип входит в линейку Рутокен ЭЦП 3.0 3127 и предназначен для устройств, которым нужна долговременная криптографическая защита: серверов, банкоматов, рабочих станций, планшетов, биометрических систем, промышленного оборудования и IoT.

Иными словами, для техники, которая должна сама понимать, кому доверять, пока человек занят чем-нибудь другим.

Микросхема хранит ключи в неизвлекаемом виде, аутентифицирует пользователей и устройства, проверяет целостность компонентов и помогает выстраивать доверенную загрузку. На каждом этапе она может контролировать исполняемый код, чтобы в систему незаметно не подсунули что-нибудь лишнее.

Рутокен Чип 3127 также поддерживает шифрование данных, выработку производных и сеансовых ключей, доверенное обновление ПО и защищённые TLS- и VPN-соединения. Для обмена данными по открытым каналам предусмотрен протокол CRISP, соответствующий ГОСТ Р 71252-2024.

Отдельно разработчики поработали над защитой самого чипа. ОС Рутокен следит за отклонениями напряжения и состоянием защитного слоя над микросхемой. При попытке физического вмешательства работа блокируется. Механизм фиктивных ветвлений выполняет ложные команды, маскируя энергопотребление и время операций от атак по побочным каналам. Чип, получается, умеет не только хранить секреты, но и довольно убедительно путать следы.

По словам компании, Рутокен Чип 3127 уже прошёл пилотные внедрения. Один из проектов — интеграция в биометрические системы контроля доступа OVISION. Завершение сертификации должно открыть путь к серийному применению микросхемы в устройствах для критически важной инфраструктуры.

В итоге «Актив» предлагает встраивать защиту прямо в оборудование, а не прикручивать её после выпуска. Для умных городов, промышленности и IoT это особенно актуально: переделывать небезопасное железо задним числом обычно долго, дорого и уже немного поздно.

Самые свежие новости ИТ и ИБ. Обзоры, аналитика, анонсы главных ивентов
Подписывайтесь на телеграм-канал!