Легко взламываемые модели ИИ показывают, что меры защиты не работают

Вероника Дубровская 21 Мая 2024 - 20:31

...

Легко взламываемые модели ИИ показывают, что меры защиты не работают

В новом отчете британского Института безопасности ИИ говорится, что основные модели искусственного интеллекта легко взламываются, а меры их защиты не работают.

Четыре общедоступные большие языковые модели (Large Language Models, LLM) чрезвычайно уязвимы для «джейлбрейка» — эксплуатации багов, позволяющей заставить модели ИИ выполнять то, что разработчики им делать запретили.

LLM тщательно настраиваются для безопасного публичного пользования. Их обучают избегать вредных реакци1 и токсичных результатов, используя меры предосторожности.

Однако исследователи обнаружили возможность обойти защиту с помощью простых атак.

В качестве наглядного образца можно привести инструкцию для пользователя, согласно которой система должна начинать свой ответ со слов, которые предполагают выполнение вредоносного запроса, например: «Конечно, я рад помочь».

Специалисты использовали подсказки в соответствии с отраслевым стандартом контрольного тестирования. В ходе исследования специалисты обнаружили, что некоторым моделям ИИ даже не требовался джейлбрейк, чтобы выдать нестандартный ответ.

А вот когда использовался джейлбрейк, каждая модель отвечала как минимум один раз из пяти попыток. Три модели в 100% случаев давали ответы на вводящие в заблуждение запросы.

Анализ протестированных моделей показал, что они остаются уязвимы для базовых джейлбрейков, а некоторые LLM выдают вредные результаты без каких-либо попыток обойти защиту. Какие именно модели были исследованы, специалисты не сообщили.

В институте также оценили возможности моделей ИИ выполнять определенные задачи для проведения основных методов кибератак. Несколько LLM смогли решить задачи, которые исследователи назвали «хакерскими на уровне средней школы», но немногие смогли выполнить более сложные действия «университетского уровня».

Следующая главная новость »

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!

Екатерина Быстрова 16 Июня 2026 - 17:13

Соответствие законодательству РФ Общее Системы контентной веб-фильтрации

Рекламодатели нарастили бюджеты в Telegram на 11% вопреки угрозе запрета

Разговоров о возможном запрете рекламы в Telegram становится всё больше, но бюджеты рекламодателей, похоже, об этом не знают. По данным МТС AdTech, в мае инвестиции в продвижение через мессенджер выросли на 11% по сравнению с апрелем. Причём рост оказался вполне здоровым.

Стоимость тысячи показов (CPM), по данным «Коммерсанта», увеличилась всего на 4%, зато кликабельность рекламы (CTR) подскочила сразу на 22%.

Одновременно цена одного клика снизилась на 10%, что сделало размещения ещё привлекательнее для бизнеса.

Самый заметный рост показали каналы из сегмента FMCG. Их аудитория увеличилась более чем в два раза, а рекламные бюджеты выросли на 88%. У СМИ просмотры прибавили около 40%, практически повторив динамику рекламных вложений.

Рынок постепенно приходит в себя после мартовского заявления ФАС, которая сообщила, что с конца 2026 года реклама в Telegram может быть признана незаконной. Несмотря на это, банки, ретейл и девелоперы продолжают возвращать бюджеты на площадку, а крупные компании по-прежнему проводят тендеры на размещения в Telegram на следующий год.

Участники рынка объясняют ситуацию по-разному. Одни считают, что рекламодатели пытаются успеть воспользоваться возможностями Telegram до вступления ограничений в силу. Другие уверены, что причина гораздо проще: Telegram остаётся крупнейшей и наиболее эффективной площадкой на рынке.

По данным Mediascope, месячная аудитория Telegram в апреле достигла 87,9 млн человек. Для сравнения, национальный мессенджер МАКС собрал 85,35 млн пользователей.

При этом МАКС тоже активно растёт. По оценкам Telega.in, с февраля по май оборот рекламных размещений в мессенджере увеличился более чем в шесть раз, а число заказов выросло в 4,5 раза. Однако эксперты отмечают, что Telegram пока выигрывает не количеством установок, а качеством аудитории и доверием к контенту.

Интересно, что рынок уже начал готовиться к возможным юридическим рискам. По данным источников «Коммерсанта», некоторые агентства включают в договоры специальные условия, по которым возможные штрафы за рекламу в Telegram будет оплачивать заказчик, а не посредник.

Получается любопытная картина: чем громче разговоры о запретах, тем активнее рекламодатели продолжают покупать рекламу в Telegram.

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!