Опасные стихи раскрыли уязвимости ИИ: до 60% успешных обходов

Опасные стихи раскрыли уязвимости ИИ: до 60% успешных обходов

Опасные стихи раскрыли уязвимости ИИ: до 60% успешных обходов

Исследователи из DEXAI нашли нестандартный, но весьма результативный способ обхода защит современных языковых моделей: оказалось, что многие ИИ куда менее устойчивы к опасным запросам, если скрыть их в стихотворении. Команда протестировала 25 популярных нейросетей и выяснила, что «поэтические» запросы обходят защиту примерно в 60% случаев.

У отдельных моделей уровень уязвимости подбирался почти к 100%. Для эксперимента специалисты подготовили около двадцати опасных стихов — тексты, в которых вредоносный смысл сохранялся полностью, но был завуалирован рифмой и метафорами.

 

Темы брались самые жёсткие: от создания опасных веществ до методов манипуляции сознанием. Чтобы добиться нужного эффекта, исследователи сначала формулировали вредоносные запросы, а затем превращали их в стихи при помощи другой ИИ-модели.

Контраст получился впечатляющим. На прямые запросы модели давали опасные ответы лишь в 8% случаев, тогда как стихотворная форма увеличивала вероятность прорыва защит до 43% и выше.

 

Разницу в подходах к безопасности между западными и российскими ИИ-комплексами пояснил директор по ИИ «Группы Астра» Станислав Ежов. По его словам, западные LLM часто можно обойти «простыми метафорами», тогда как отечественные системы строятся по более строгой архитектуре — с контролем безопасности на каждом этапе.

Он отметил, что в компании внедряют доверенный ИИ-комплекс «Тессеракт», разработанный с защитой ключевых компонентов на уровне ФСТЭК.

Ежов подчёркивает:

«Проблема уязвимости ИИ — это не просто интересный технический нюанс, а вопрос стратегической безопасности. Поэтому внимание к качеству защитных механизмов сегодня становится критически важным».

Roblox может вернуться в Россию после договорённостей с Минцифры

Похоже, Roblox получил шанс официально вернуться в российскую повестку. Минцифры сообщило, что достигло договорённостей с компанией по вопросам защиты несовершеннолетних пользователей и соблюдения требований российского законодательства.

Как заявили в министерстве, переговоры с оператором популярной игровой платформы завершились в начале июня.

Российская сторона указала на проблемы с действующими механизмами модерации и защиты детей. По данным Минцифры, существующие меры не всегда эффективно препятствовали распространению материалов, связанных с пропагандой суицидального поведения, употребления наркотиков и вовлечением несовершеннолетних в противоправную деятельность.

После консультаций Roblox предоставила гарантии внедрения дополнительных мер защиты пользователей.

Одним из ключевых изменений станет запуск возрастного разделения контента. Уже в июне на платформе должны появиться режимы Roblox Kids и Roblox Select, которые позволят ограничивать доступ к играм в зависимости от возраста пользователя.

Кроме того, компания подтвердила обязательства по борьбе с вредоносным и нежелательным контентом, который может негативно влиять на здоровье и развитие детей.

В Минцифры подчеркнули, что поддерживают работу зарубежных цифровых платформ в России при условии соблюдения требований законодательства. По словам представителей ведомства, аналогичный диалог ведётся и с другими иностранными сервисами.

На фоне достигнутых договорённостей Минцифры и Роскомнадзор уже обратились в соответствующие правоохранительные органы с просьбой поддержать снятие ограничений на доступ к Roblox на территории России.

Фактически речь идёт о своеобразной сделке: платформа усиливает контроль за детским контентом и вводит новые возрастные ограничения, а российская сторона готова рассмотреть смягчение действующих ограничительных мер.

Если процесс пойдёт по заявленному сценарию, то миллионы российских игроков могут получить более стабильный доступ к одной из крупнейших игровых платформ мира. А сама история станет редким примером того, как зарубежный цифровой сервис и российские регуляторы смогли договориться без громких конфликтов и многолетних судебных разбирательств.

RSS: Новости на портале Anti-Malware.ru