Легко взламываемые модели ИИ показывают, что меры защиты не работают

Легко взламываемые модели ИИ показывают, что меры защиты не работают

Легко взламываемые модели ИИ показывают, что меры защиты не работают

В новом отчете британского Института безопасности ИИ говорится, что основные модели искусственного интеллекта легко взламываются, а меры их защиты не работают.

Четыре общедоступные большие языковые модели (Large Language Models, LLM) чрезвычайно уязвимы для «джейлбрейка» — эксплуатации багов, позволяющей заставить модели ИИ выполнять то, что разработчики им делать запретили.

LLM тщательно настраиваются для безопасного публичного пользования. Их обучают избегать вредных реакци1 и токсичных результатов, используя меры предосторожности.

Однако исследователи обнаружили возможность обойти защиту с помощью простых атак.

В качестве наглядного образца можно привести инструкцию для пользователя, согласно которой система должна начинать свой ответ со слов, которые предполагают выполнение вредоносного запроса, например: «Конечно, я рад помочь».

Специалисты использовали подсказки в соответствии с отраслевым стандартом контрольного тестирования. В ходе исследования специалисты обнаружили, что некоторым моделям ИИ даже не требовался джейлбрейк, чтобы выдать нестандартный ответ. 

А вот когда использовался джейлбрейк, каждая модель отвечала как минимум один раз из пяти попыток. Три модели в 100% случаев давали ответы на вводящие в заблуждение запросы.

Анализ протестированных моделей показал, что они остаются уязвимы для базовых джейлбрейков, а некоторые LLM выдают вредные результаты без каких-либо попыток обойти защиту. Какие именно модели были исследованы, специалисты не сообщили.

В институте также оценили возможности моделей ИИ выполнять определенные задачи для проведения основных методов кибератак. Несколько LLM смогли решить задачи, которые исследователи назвали «хакерскими на уровне средней школы», но немногие смогли выполнить более сложные действия «университетского уровня».

Киберпротект отметил 10-летие на партнёрском Кибер Форуме

Компания «Киберпротект» провела IV ежегодную партнёрскую конференцию «Кибер Форум». В этом году мероприятие получилось особенным: разработчик решений для резервного копирования и защиты данных отмечает десятилетие со дня основания. Площадкой для встречи стал Дом Союзов в центре Москвы — историческое здание на Большой Дмитровке, которое за несколько веков успело стать свидетелем множества значимых событий.

Именно здесь собрались партнёры, дистрибьюторы, представители ИТ-компаний, отраслевых организаций и СМИ.

Открывая форум, генеральный директор «Киберпротекта» Алексей Бадаев поблагодарил партнёров за многолетнее сотрудничество и отметил, что многие инициативы, которые когда-то начинались как совместные идеи, со временем превратились в масштабные проекты.

Деловая часть мероприятия была посвящена обсуждению текущей ситуации на рынке, развитию технологий защиты данных и дальнейшему взаимодействию участников экосистемы компании. Отдельное внимание уделили вопросам киберустойчивости и роли партнёрских программ в развитии отечественных ИТ-решений.

Одним из ключевых событий вечера стало вручение премии «Кибер Герой», учреждённой компанией для партнёров и дистрибьюторов. Награды получили 16 компаний в пяти номинациях. Среди лауреатов — Yandex Cloud, VK Tech, «Инфосистемы Джет», «Софтлайн Решения» и другие участники рынка.

Сегодня партнёрская сеть «Киберпротекта» объединяет более 2000 компаний в России и Беларуси. В неё входят системные интеграторы, дистрибьюторы и технологические партнёры, которые участвуют во внедрении решений для резервного копирования и защиты данных в организациях различных отраслей.

По словам директора департамента информационной безопасности и программного обеспечения OCS Ольги Скуловой, сотрудничество между компаниями продолжается уже много лет, а развитие совместных проектов остаётся важной частью работы по обеспечению киберустойчивости российских заказчиков.

Завершился форум неформальным общением участников, которые смогли обсудить итоги года и планы на будущее уже вне рамок деловой программы.

RSS: Новости на портале Anti-Malware.ru