Шифрование в мессенджерах может использоваться инсайдерами

Шифрование в мессенджерах может использоваться инсайдерами

Шифрование в мессенджерах может использоваться инсайдерами

Сотрудники спецслужб нашли новую потенциальную опасность в мессенджерах. Если раньше они считали это удобным каналом для коммуникации террористов, то теперь подозревают, что шифрованные мессенджеры с самоудаляющимися сообщениями станут средством утечки инсайдерской информации среди «белых воротничков» на Уолл-стрит.

«Шифрованные мессенджеры являются растущей проблемой,— отметил в интервью FT специальный агент нью-йоркского отделения ФБР по борьбе с финансовыми преступлениями Джон Касаль.— Появляются новые технологии, и ты знаешь, что они могут быть использованы для мошенничества, отмывания денег или инсайдерской торговли». Такую озабоченность сотрудник ФБР высказал в интервью спустя несколько дней после того, как бывший IT-сотрудник Bank of America признал свою вину в передаче инсайдерской информации при помощи одного из мобильных мессенджеров с самоудаляющимися сообщениями. Даниэль Ривас передал конфиденциальную рыночную информацию своим знакомым, которые заработали на этом около $5 млн. Утечка информации проходила несколько раз с октября 2014 года. В настоящее время господин Ривас и его сообщники находятся под следствием по обвинению в инсайдерской торговле и рыночных махинациях.

По мнению ФБР, злоумышленники в «белых воротничках» все время приспосабливаются к новым технологиям — будь это коллективные чаты в терминалах агентства Bloomberg или способы коммуникации через социальные сети. Именно поэтому, отмечает FT, спецслужбы испытывают особое беспокойство в связи с широким распространением шифрованных мессенджеров, которыми можно пользоваться на обычных смартфонах и к тому уже использовать функцию автоматического удаления сообщений через какое-то время. ФБР уже активно работает в этом направлении, собирая источники информации, данные о сленге трейдеров, понимании их тактики и уровня личных связей, чтобы иметь возможность вовремя отследить утечку информации или найти свидетелей преступления. Впрочем, и в обычных мессенджерах злоумышленники находят способ поделиться конфиденциальной информацией — в марте британский финансовый регулятор впервые наказал трейдера за передачу конфиденциальной информации через WhatsApp. Сотрудник инвесткомпании Jefferies заплатил штраф в £37198, пишет kommersant.ru.

Сами финансовые компании также пытаются бороться с утечками, внедряя системы искусственного интеллекта в свои системы безопасности. «Люди становятся более креативными и используют такие каналы коммуникации, которые сложно отследить обычным сотрудникам безопасности или внутреннего контроля»,— отметил в интервью FT Мартин ден Харинг из компании Digital Reasoning, которая сотрудничает с Пентагоном для отслеживания террористов в интернете. С 2012 года технологии этой компании привлекли внимание и финансовых компаний, так, например, одним из ее клиентов и инвесторов стал ведущий инвестбанк Goldman Sachs.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru