Минюст США создал важный прецедент

Минюст США создал важный прецедент

Минюст США создал важный прецедент

Американский Минюст возбудил два уголовных дела против авторов порнографических изображений с участием детей, сгенерированных с помощью технологии дипфейк.

Ведомство заявило, что расширит практику привлечения к ответственности изготовителей и распространителей такого рода продукции.

Начальник Отдела по борьбе с киберпреступностью и нарушениями интеллектуальной собственности Министерства юстиции США Джеймс Сильвер заявил корреспонденту агентства «Рейтер», что только двумя данными случаями дело не ограничится.

Он отметил, что его лично и многих его коллег крайне беспокоит нормализация практики использования генеративного искусственного интеллекта для создания порнографических изображений, в том числе с участием детей, и это способствует все большему ее распространению.

«Мы намерены этому противодействовать», — резюмировал Джеймс Сильвер.

Однако первый такой прецедент не развеял опасения юридического сообщества в том, что вынесенные обвинительные приговоры могут быть обжалованы. Суды также не вполне готовы к рассмотрению дел, где обвиняемые использовали искусственный интеллект.

Тем более в США было как минимум два случая, когда распространителям таких изображений удавалось или избежать ответственности, или понести наказание по существенно более легкой статье, не связанной с распространением детской порнографии. Они воспользовались тем, что изображения, которые у них нашли, не относились к кому-то конкретно.

Беспокойство правоохранителей и организаций, занимающихся защитой прав детей также вызывает то, что широкое распространение материалов, сгенерированных искусственным интеллектом, станет своего рода дымовой завесой, за которой будут скрываться факты насилия над реальными детьми и подростками.

Национальный центр по делам пропавших и эксплуатируемых детей фиксирует в среднем около 450 обращений, связанных со сгенерированными искусственным интеллектом изображений с участием детей. Общее же число обращений в эту организацию, как заявила ее юридический консультант Ийота Соурас, превышает 3 миллиона.

Однако Ребекка Портнофф, вице-президент правозащитной организации Thorn, заявила, что не стоит рассматривать данную проблему лишь как дело будущего, иначе она выйдет из-под контроля. И для ее решения нужно действовать по всем направлениям, как влияя на разработчиков систем генерации изображений, так и через правоохранительную систему.

Поддельный пакет для WhatsApp из NPM сливает сообщения и контакты

В экосистеме JavaScript обнаружили очередную, но особенно неприятную атаку на цепочку поставок. В каталоге NPM более полугода распространялся вредоносный пакет lotusbail, который выдавал себя за библиотеку для работы с WhatsApp API (принадлежит признанной в России экстремистской организации и запрещённой корпорации Meta) — и при этом тихо воровал переписку, контакты и учётные данные пользователей.

На находку обратили внимание исследователи из Koi Security, опубликовав подробный технический разбор. К моменту обнаружения пакет успели скачать более 56 тысяч раз, что делает ситуацию далеко не нишевой.

В отличие от многих зловредов в NPM, которые ломаются или выдают себя странным поведением, lotusbail был практически идеальной подделкой. Его авторы просто склонировали популярную библиотеку @whiskeysockets/baileys, которая используется для работы с WhatsApp Web через WebSocket, и аккуратно встроили в неё вредоносный код.

 

Снаружи всё выглядело легитимно: приложения на базе lotusbail спокойно отправляли и получали сообщения. Но параллельно библиотека:

  • перехватывала все входящие и исходящие сообщения;
  • собирала медиафайлы;
  • вытаскивала списки контактов с номерами телефонов;
  • сохраняла WhatsApp-сессии, токены и коды привязки устройств.

 

Причём перехватывались не только новые сообщения, но и исторические данные, доступные через API.

Самая опасная часть — использование механизма «сопряжение устройств» в WhatsApp. В коде пакета был зашит жёстко заданный, зашифрованный AES код привязки, который незаметно подключал устройство злоумышленника к аккаунту жертвы.

 

В результате атакующий получал постоянный доступ к WhatsApp-аккаунту, который сохранялся даже после удаления вредоносного пакета из проекта.

Проще говоря, удалить lotusbail недостаточно. Чтобы полностью закрыть дыру, жертве нужно вручную отвязать все устройства в настройках WhatsApp.

Собранные данные дополнительно шифровались с помощью кастомной реализации RSA. Это не имело отношения к сквозному шифрованию WhatsApp — цель была другой: спрятать утечки от систем мониторинга и сетевых средств защиты.

Эксперты отмечают, что атака отлично иллюстрирует главную проблему экосистемы open source: функциональность маскирует вредоносную логику. NPM остаётся одной из самых привлекательных целей для атак на цепочки поставок — из-за масштаба, доверия разработчиков и низкого порога публикации пакетов.

Ранее в новом докладе властей Великобритании прозвучала мысль, что разработка зашифрованных мессенджеров вроде WhatsApp теоретически может считаться «враждебной деятельностью».

RSS: Новости на портале Anti-Malware.ru