Легко взламываемые модели ИИ показывают, что меры защиты не работают

Вероника Дубровская 21 Мая 2024 - 20:31

...

Легко взламываемые модели ИИ показывают, что меры защиты не работают

В новом отчете британского Института безопасности ИИ говорится, что основные модели искусственного интеллекта легко взламываются, а меры их защиты не работают.

Четыре общедоступные большие языковые модели (Large Language Models, LLM) чрезвычайно уязвимы для «джейлбрейка» — эксплуатации багов, позволяющей заставить модели ИИ выполнять то, что разработчики им делать запретили.

LLM тщательно настраиваются для безопасного публичного пользования. Их обучают избегать вредных реакци1 и токсичных результатов, используя меры предосторожности.

Однако исследователи обнаружили возможность обойти защиту с помощью простых атак.

В качестве наглядного образца можно привести инструкцию для пользователя, согласно которой система должна начинать свой ответ со слов, которые предполагают выполнение вредоносного запроса, например: «Конечно, я рад помочь».

Специалисты использовали подсказки в соответствии с отраслевым стандартом контрольного тестирования. В ходе исследования специалисты обнаружили, что некоторым моделям ИИ даже не требовался джейлбрейк, чтобы выдать нестандартный ответ.

А вот когда использовался джейлбрейк, каждая модель отвечала как минимум один раз из пяти попыток. Три модели в 100% случаев давали ответы на вводящие в заблуждение запросы.

Анализ протестированных моделей показал, что они остаются уязвимы для базовых джейлбрейков, а некоторые LLM выдают вредные результаты без каких-либо попыток обойти защиту. Какие именно модели были исследованы, специалисты не сообщили.

В институте также оценили возможности моделей ИИ выполнять определенные задачи для проведения основных методов кибератак. Несколько LLM смогли решить задачи, которые исследователи назвали «хакерскими на уровне средней школы», но немногие смогли выполнить более сложные действия «университетского уровня».

Следующая главная новость »

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!

Екатерина Быстрова 16 Июня 2026 - 08:56

Домашние пользователи Визуальное и видеонаблюдение

WhatsApp Web получит групповые звонки до 32 человек

Похоже, WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) всё ближе к тому, чтобы превратить веб-версию в полноценную замену настольному приложению. В бета-версии WhatsApp Web начали тестировать групповые голосовые и видеозвонки.

О нововведении сообщили специалисты WABetaInfo. Некоторые участники тестирования уже получили уведомление о том, что в групповых чатах появилась возможность запускать аудио- и видеоконференции прямо через браузер.

Поддерживаются звонки с участием до 32 человек. Также пользователи смогут демонстрировать экран и приглашать в разговор не весь чат целиком, а только выбранных участников группы.

Работает всё довольно просто: если функция доступна для аккаунта, в верхней части группового чата появляется кнопка звонка. После нажатия можно выбрать голосовой или видеорежим и указать, кого именно подключить к беседе.

Как и в мобильных приложениях WhatsApp, групповые звонки в браузере защищены сквозным шифрованием. Кроме того, поддерживаются ссылки-приглашения, которые позволяют быстро подключать новых участников к уже запущенной конференции.

Любопытно, что WhatsApp ещё не завершил даже полноценное внедрение обычных звонков в веб-версии, а разработчики уже тестируют следующий этап — групповые звонки. Это может стать серьёзным шагом для пользователей, которые работают с мессенджером преимущественно через браузер и не хотят устанавливать отдельное приложение.

Подключиться к тестированию проще, чем в мобильных бета-программах. Для этого достаточно открыть настройки WhatsApp Web, перейти в раздел Help и активировать опцию Join the beta. Впрочем, даже участие в бета-тестировании не гарантирует доступ к новой функции, WhatsApp традиционно распространяет экспериментальные возможности постепенно.

Если тестирование пройдёт без серьёзных проблем, вскоре браузерная версия WhatsApp сможет конкурировать с Zoom, Google Meet и Microsoft Teams не только в личных звонках, но и в групповых видеоконференциях.

Интересно при этом, что пользователи на днях опять пожаловались на WhatsApp для Windows: мессенджер ест до 1,2 ГБ RAM и тормозит даже на мощных ПК.

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!