Легко взламываемые модели ИИ показывают, что меры защиты не работают

Легко взламываемые модели ИИ показывают, что меры защиты не работают

Легко взламываемые модели ИИ показывают, что меры защиты не работают

В новом отчете британского Института безопасности ИИ говорится, что основные модели искусственного интеллекта легко взламываются, а меры их защиты не работают.

Четыре общедоступные большие языковые модели (Large Language Models, LLM) чрезвычайно уязвимы для «джейлбрейка» — эксплуатации багов, позволяющей заставить модели ИИ выполнять то, что разработчики им делать запретили.

LLM тщательно настраиваются для безопасного публичного пользования. Их обучают избегать вредных реакци1 и токсичных результатов, используя меры предосторожности.

Однако исследователи обнаружили возможность обойти защиту с помощью простых атак.

В качестве наглядного образца можно привести инструкцию для пользователя, согласно которой система должна начинать свой ответ со слов, которые предполагают выполнение вредоносного запроса, например: «Конечно, я рад помочь».

Специалисты использовали подсказки в соответствии с отраслевым стандартом контрольного тестирования. В ходе исследования специалисты обнаружили, что некоторым моделям ИИ даже не требовался джейлбрейк, чтобы выдать нестандартный ответ. 

А вот когда использовался джейлбрейк, каждая модель отвечала как минимум один раз из пяти попыток. Три модели в 100% случаев давали ответы на вводящие в заблуждение запросы.

Анализ протестированных моделей показал, что они остаются уязвимы для базовых джейлбрейков, а некоторые LLM выдают вредные результаты без каких-либо попыток обойти защиту. Какие именно модели были исследованы, специалисты не сообщили.

В институте также оценили возможности моделей ИИ выполнять определенные задачи для проведения основных методов кибератак. Несколько LLM смогли решить задачи, которые исследователи назвали «хакерскими на уровне средней школы», но немногие смогли выполнить более сложные действия «университетского уровня».

Выручка СКБ Контур в 2025 году выросла на 19,6% — до 48,3 млрд рублей

СКБ Контур подвёл итоги 2025 года: выручка выросла на 19,6% и достигла 48,3 млрд рублей по сравнению с 2024-м. Число клиентов, по данным компании, превысило 3,1 млн — это примерно 35% российского бизнеса. Основной вклад в рост, как объясняют в Контуре, дали направления электронного документооборота и обязательной отчётности.

Через Контур.Диадок за год прошло 1,5 млрд документов — это +24,5% год к году. На динамику повлияли и сервисы маркировки, и более активный переход малого бизнеса на ЭДО.

Из заметных событий — Диадок стал первым негосударственным оператором ГосЭДО, в сервисе стартовал публичный пилот Госключа, а также заработал юридически значимый трансграничный ЭДО с Беларусью и Казахстаном.

Отдельно компания выделяет «логистическую» часть ЭДО — просто потому, что скоро она станет обязательной: с 1 сентября 2026 года значительную часть перевозочных документов (включая транспортные накладные) нужно будет переводить в электронный вид. Контур в 2025 году участвовал в подготовке подзаконных актов через ассоциацию «Цифровой транспорт и логистика» и параллельно подключал клиентов к системе.

По Контур.Экстерну тоже рост: объём оборота документов с контролирующими органами увеличился на 15% и превысил 200 млн документов. А у комплексного решения для малого бизнеса (учёт + отчётность + ЭДО) количество подключений, по данным компании, выросло в 1,5 раза.

В кибербезопасности Контур в 2025 году запустил отдельный бренд Контур.Эгида, куда свели решения для защиты «внутреннего контура» компаний — от двухфакторной аутентификации до инструментов привилегированного доступа. Помимо этого, на рынок вышла система для защищённого корпоративного доступа Коннект.

Ещё одна заметная линия — ИИ-функции в продуктах. В ноябре 2025 года в Экстерне появился ИИ-ассистент бухгалтера для работы с налоговым законодательством. В Контур.Фокусе с помощью ИИ сделали краткие пересказы исходов арбитражных дел (чтобы не перечитывать длинные судебные документы), а в Контур.Толке добавили автоматическое определение дипфейков и генерацию протоколов встреч.

Совокупные социальные инвестиции компании, по её данным, выросли на 15%. Контур продолжил образовательные программы — в профориентационных проектах участвовали более 100 тысяч школьников в 38 регионах, а для первокурсников ФИИТ УрФУ в 2025–2026 учебном году появилась новая стипендия.

RSS: Новости на портале Anti-Malware.ru