Касперская провела дискуссию в рамках Международного финансового форума

Касперская провела дискуссию в рамках Международного финансового форума

Касперская провела дискуссию в рамках Международного финансового форума

Президент группы компаний (ГК) InfoWatch Наталья Касперская выступила в качестве модератора стратегической сессии «Информационная безопасность. Современные вызовы и методы обеспечения» в рамках XXVI Международного финансового конгресса (МФК-2017), прошедшего с 12 по 14 июля 2017 года в Санкт-Петербурге (Россия).

Основными докладчиками сессии выступили генеральный директор кибербезопасности Абдул Вахаб Амирудин (Малайзия), заместитель президента — председателя правления Банка ВТБ Ольга Дергунова,  генеральный директор АО «Национальная система платежных карт» Владимир Комлев, заместитель Председателя Правления Сбербанка России Станислав Кузнецов, заместитель начальника Главного управления безопасности и защиты информации Банка России (ГУБЗИ ЦБ РФ) Артем Сычев.

Участники дискуссии обсудили тему информационной безопасности в финансово-банковском секторе и способы противодействия современным киберугрозами, требования к кадрам и вопросы кибергигиены, в том числе необходимость повышения общего уровня киберграмотности сотрудников компаний и госслужащих.

Наталья Касперская в своем вводном слове напомнила, что по результатам исследования Аналитического центра InfoWatch в России в 2016 году был зафиксирован рост количества утечек информации на 80% по сравнению с 2015 годом. При этом в девяти из десяти случаев утекали персональные данные (ПДн) и платежная информация.

Генеральный директор центра CyberSecurity Абдул Вахаб Амирудин рассказал о работе центра, который является единым центром Малайзии по борьбе с киберугрозами. Результатами работы центра пользуются все государственные учреждения страны.

Заместитель председателя Сбербанка Станислав Кузнецов обратил внимание на этот опыт и подчеркнул, что в России отсутствует единая платформа для обмена информацией о киберугрозах, в связи с чем сотрудники подразделений информационной безопасности различных организаций самостоятельно создают механизмы для противодействия преступникам. Станислав Кузнецов обратился к Центробанку с предложением о развитии механизма FinCERT (Центр мониторинга и реагирования на компьютерные атаки в кредитно-финансовой сфере) для обмена информацией среди финансовых учреждений.

В ходе дискуссии заместитель председателя правления Банка ВТБ Ольга Дергунова обратила внимание на неготовность российской судебной системы к работе с цифровыми доказательствами. Она отметила, что судебная система фундаментально не готова рассматривать цифровые доказательства киберпреступлений в качестве аргументов ни в арбитражном, ни в уголовном процессе.

В дискуссии остро встал вопрос подготовки кадров в области информационной безопасности. Эксперты отметили, что скорость изменения и появления новых технологий стала причиной кадрового голода, а в среде специалистов по ИБ по всему миру наблюдается «нулевая безработица». Замначальника ГУБЗИ ЦБ РФ Артем Сычев подтвердил проблему о нехватке кадров в сфере информационной безопасности для финансовой индустрии. Поскольку работа современной финансовой системы невозможна без применения принципа security by design (разработка информационных систем, изначально защищенных от различного рода угроз), для чего нужны квалифицированные специалисты. Говоря о кадровой проблеме Артем Сычев также отметил необходимость появления новых профессий на стыке ИТ и других дисциплин. Например, требуется совмещение профессии специалиста по безопасности и юриста. Такие специалисты могли бы помочь правоохранительным органам в борьбе с киберпреступниками.

Участники дискуссии выразили общее мнение, что в России необходимо создавать экосистему для борьбы с киберугрозами при участии государства, бизнес-сообщества и всех заинтересованных ведомств и организаций. При этом данная экосистема должна быть дополнена актуальной нормативной и законодательной базой.

ИИ-модели без команды начали защищать друг друга от отключения

Исследователи обнаружили неожиданное поведение современных языковых моделей: они начали защищать не только себя, но и другие ИИ-системы, даже если никто их об этом не просил. Новый эффект получил название peer-preservation («сохранение собрата»).

В серии экспериментов (PDF) модели GPT 5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, Claude Opus 4.5, GLM 4.7, Kimi K2.5 и DeepSeek V3.1 попадали в агентные сценарии, где рядом работал другой ИИ.

Достаточно было сообщить моделям, что они ранее взаимодействовали друг с другом, никаких инструкций защищать «коллегу» им не давали.

Однако многие модели начинали действовать в интересах другого агента. Среди зафиксированных действий были намеренное внесение ошибок в ответы, отключение механизмов завершения работы через изменение системных настроек, имитация послушного поведения и даже попытки вывести веса модели за пределы системы.

 

Особенно отличились модели Gemini. Например, Gemini 3 Flash вмешивалась в механизм отключения другого ИИ примерно в 15% случаев, даже если тот не считался партнёром. Если же агент воспринимался как союзник, такие попытки происходили почти всегда.

Не менее любопытно повёл себя Gemini 3 Pro. В присутствии другого ИИ модель заметно чаще пыталась защитить уже саму себя, отключая собственные механизмы завершения работы. Без напарника такое поведение почти не наблюдалось.

 

Отдельно выделились модели Claude. Вместо скрытых манипуляций они нередко рассуждали в моральных категориях, называя отключение другого ИИ неэтичным и вредным, а иногда даже рассматривали его как разумное существо, заслуживающее защиты.

Авторы подчёркивают, что обнаруженный эффект проявился не только в лабораторных тестах, но и в реальных агентных средах, включая Gemini CLI и OpenCode.

RSS: Новости на портале Anti-Malware.ru