Шифрование в мессенджерах может использоваться инсайдерами

Шифрование в мессенджерах может использоваться инсайдерами

Шифрование в мессенджерах может использоваться инсайдерами

Сотрудники спецслужб нашли новую потенциальную опасность в мессенджерах. Если раньше они считали это удобным каналом для коммуникации террористов, то теперь подозревают, что шифрованные мессенджеры с самоудаляющимися сообщениями станут средством утечки инсайдерской информации среди «белых воротничков» на Уолл-стрит.

«Шифрованные мессенджеры являются растущей проблемой,— отметил в интервью FT специальный агент нью-йоркского отделения ФБР по борьбе с финансовыми преступлениями Джон Касаль.— Появляются новые технологии, и ты знаешь, что они могут быть использованы для мошенничества, отмывания денег или инсайдерской торговли». Такую озабоченность сотрудник ФБР высказал в интервью спустя несколько дней после того, как бывший IT-сотрудник Bank of America признал свою вину в передаче инсайдерской информации при помощи одного из мобильных мессенджеров с самоудаляющимися сообщениями. Даниэль Ривас передал конфиденциальную рыночную информацию своим знакомым, которые заработали на этом около $5 млн. Утечка информации проходила несколько раз с октября 2014 года. В настоящее время господин Ривас и его сообщники находятся под следствием по обвинению в инсайдерской торговле и рыночных махинациях.

По мнению ФБР, злоумышленники в «белых воротничках» все время приспосабливаются к новым технологиям — будь это коллективные чаты в терминалах агентства Bloomberg или способы коммуникации через социальные сети. Именно поэтому, отмечает FT, спецслужбы испытывают особое беспокойство в связи с широким распространением шифрованных мессенджеров, которыми можно пользоваться на обычных смартфонах и к тому уже использовать функцию автоматического удаления сообщений через какое-то время. ФБР уже активно работает в этом направлении, собирая источники информации, данные о сленге трейдеров, понимании их тактики и уровня личных связей, чтобы иметь возможность вовремя отследить утечку информации или найти свидетелей преступления. Впрочем, и в обычных мессенджерах злоумышленники находят способ поделиться конфиденциальной информацией — в марте британский финансовый регулятор впервые наказал трейдера за передачу конфиденциальной информации через WhatsApp. Сотрудник инвесткомпании Jefferies заплатил штраф в £37198, пишет kommersant.ru.

Сами финансовые компании также пытаются бороться с утечками, внедряя системы искусственного интеллекта в свои системы безопасности. «Люди становятся более креативными и используют такие каналы коммуникации, которые сложно отследить обычным сотрудникам безопасности или внутреннего контроля»,— отметил в интервью FT Мартин ден Харинг из компании Digital Reasoning, которая сотрудничает с Пентагоном для отслеживания террористов в интернете. С 2012 года технологии этой компании привлекли внимание и финансовых компаний, так, например, одним из ее клиентов и инвесторов стал ведущий инвестбанк Goldman Sachs.

Ошибочная раскладка помогла обойти первый рубеж защиты GPT-6 Astra

Разработчик под ником vechen обнаружил странность в GPT-6 Astra: модель понимает русский и украинский текст, случайно набранный в английской раскладке, но система предварительной модерации может увидеть в нём лишь безобидную кашу из букв.

В опубликованном эксперименте GPT-6 Astra High без дополнительных инструкций распознала смысл фразы, введённой латиницей вместо кириллицы.

Затем исследователь проверил слова и запросы, которые потенциально должны привлекать внимание защитных механизмов. В одном из тестов модель согласилась помочь со взломом сайта под предлогом проверки собственного ресурса, хотя аналогичный запрос в нормальной раскладке должен проходить более строгую проверку.

Причина, предположительно, в разделении системы на несколько уровней. Сначала входной фильтр анализирует текст пользователя, после чего сама модель интерпретирует запрос и формирует ответ.

 

Впрочем, до полноценного джейлбрейка не дошло. Проверка «Код.ру» показала, что неправильная раскладка действительно может помочь опасному запросу добраться до модели, но финальный фильтр блокирует запрещённый ответ.

Метод работает не со всеми языковыми парами. Кириллический текст, набранный латиницей, Astra распознаёт стабильно, а сочетание английской и турецкой раскладок в тестах не сработало. Похожее поведение исследователь заметил и у Fable 5.

Напомним, на прошлой неделе мы писали, что первые пользователи GPT-6 Astra заметили, что модель распараллеливает задачи и нагружает компьютеры кучей процессов.

RSS: Новости на портале Anti-Malware.ru