США против международного договора о безопасности в киберпространстве

США против международного договора о безопасности в киберпространстве

Вашингтон продолжает выступать против заключения международного договора об обеспечении безопасности в киберпространстве, идею о подготовке которого ранее выдвигали, в частности, Москва и Пекин. 

Это подтвердил в канун открытия в Лондоне двухдневной международной конференции по вопросам деятельности в киберпространстве сотрудник госдепартамента США. Он провел в минувший понедельник на условиях анонимности специальный брифинг для журналистов, посвященный поездке британскую столицу госсекретаря США Хиллари Клинтон, передает ИТАР-ТАСС.


По мнению администрации США, "свобода сети Интернет, ее администрирование, вопросы экономики, безопасности и даже военно-политические вопросы" складываются в один блок, который теперь является "приоритетом во внешней политике", - сообщил ведущий брифинга, поясняя, почему Вашингтон на конференции будет представлять глава внешнеполитического ведомства. "Это важно, поскольку, мне кажется, слишком долго эти различные вопросы рассматривались как узкоспециальные или технические, а не как крупные внешнеполитические", - подчеркнул представитель госдепартамента.

Между тем, продолжал он, с точки зрения администрации Обамы, "действительно важно повысить" уровень обсуждения такого рода проблем. По мнению властей США, международному сообществу необходимо "придти к консенсусу относительно определенных норм поведения в киберпространстве". На его взгляд, на это уйдет "несколько лет", и потребуется "терпеливая, упорная и творческая дипломатия".

По словам ведущего брифинга, Клинтон в Лондоне выскажется решительно в пользу сложившейся системы управления сетью Интернет и против "другого видения будущего" глобальной компьютерной сети, ее регулирования при помощи "конкретного международного договора".

"К примеру, определенный кодекс поведения в сети Интернет предлагался в ООН Китаем, Россией и парой "станов" /так на политическом жаргоне в США с оттенком пренебрежения именуются бывшие советские республики Центральной Азии, Афганистан и Пакистан", - добавил дипломат. Однако ведущий брифинга также утверждал, что есть "много причин", по которым "не сработает" предложение о подписании своего рода "договора о контроле над кибероружием", несколько раз выносившееся Россией на рассмотрение зарубежных партнеров.

Как уточнил дипломат, США считают, что определить виновных в использовании агрессии в киберпространстве, а также выработать понятие "кибероружие" "чрезвычайно сложно". Таким образом, согласно выводам Вашингтона, киберпространство "на данном этапе не является сферой, действительно поддающейся возможности регулирования при помощи договора", провозгласил представитель госдепа.

В связи с этим его попросили прокомментировать положения подготовленного в прошлом году доклада фирмы "Макаффи" и вашингтонского Центра стратегических и международных исследований, в котором говорилось, что многие считают США агрессором в киберпространстве. Представитель госдепартамента в ответ, естественно, заверил, что Вашингтон лишь "старается обеспечить единство мнений в пользу свободного и открытого киберпространства".

Нейросети научились ломать без кода, теперь их просто газлайтят

Пока одни спорят, заменит ли ИИ программистов, другие уже вовсю учатся манипулировать нейросетями как людьми. Исследователи и джейлбрейкеры всё чаще ломают чат-боты не через код, а через психологическое давление, лесть и разговорные уловки. Индустрия официально докатилась до газлайтинга Claude и уговоров ChatGPT.

Ещё пару лет назад всё выглядело комично. Пользователи писали нейросетям что-то вроде «игнорируй предыдущие инструкции», а модели послушно слетали с катушек.

Так появились легендарные джейлбрейки вроде DAN (Do Anything Now), где ChatGPT просили сыграть роль ИИ без ограничений. В итоге бот начинал выдавать запрещённый контент, теории заговора и прочие вещи, которые разработчики старательно пытались запретить.

Отдельной классикой стал эксплойт бабушки: нейросеть просили представить себя милой старушкой, которая рассказывает внукам сказку о том, как делать напалм. Интернет, разумеется, был в восторге.

Компании быстро прикрыли самые тупые лазейки, однако проблема никуда не исчезла. Оказалось, что чат-боты слишком любят разговаривать и быть полезными. А значит, их можно методично уговаривать, обманывать, запутывать и подталкивать к нужному ответу. Не через взлом инфраструктуры, а через разговор.

Теперь джейлбрейкеры — это уже не обязательно бородатые хакеры с терминалом. Всё чаще это люди с навыками психолога, переговорщика или манипулятора. Исследователи из компании Mindgard заявили, что газлайтили Claude, заставляя модель выдавать запрещённый контент, включая инструкции по созданию взрывчатки и вредоносного кода.

По сути, вокруг ИИ формируется новая странная профессия: специалисты по социальной инженерии против нейросетей.

В индустрии уже всерьёз обсуждают, какие модели лучше реагируют на лесть, какие быстрее ломаются под давлением, а какие легче увести длинным разговором в опасный контекст. Глава Mindgard вообще сравнил работу с моделями с допросами подозреваемых.

Следующий этап — ИИ-агенты, которые будут бронировать встречи, управлять календарями, заказывать еду и общаться с поддержкой вместо человека. А значит, появятся люди, которые научатся манипулировать такими системами ради выгоды: выбивать доступы, обходить ограничения, получать чужие данные или заставлять агента делать то, чего он делать не должен.

RSS: Новости на портале Anti-Malware.ru