В Сети нашлись вредоносные PyPI-пакеты, нацеленные на юзеров DeepSeek

В Сети нашлись вредоносные PyPI-пакеты, нацеленные на юзеров DeepSeek

В Сети нашлись вредоносные PyPI-пакеты, нацеленные на юзеров DeepSeek

Специалисты Positive Technologies выявили и пресекли вредоносную кампанию. Атака была направлена на пользователей DeepSeek, а также на разработчиков и специалистов в области машинного обучения, заинтересованных в интеграции этой нейросети.

Злоумышленник зарегистрировал учетную запись в репозитории Python Package Index (PyPI) еще в июне 2023 года, но активность проявил лишь 29 января, загрузив пакеты deepseeek и deepseekai.

После установки они крали данные о пользователе, его системе и переменных окружения, в которых могут содержаться учётные данные для баз данных и доступы к инфраструктурным ресурсам. Похищенная информация отправлялась на комнадный сервер через платформу Pipedream.

«Атакующие используют тренды в своих целях, и популярность DeepSeek не стала исключением. Интересно, что код вредоносных пакетов частично создан с помощью ИИ-ассистента — об этом говорят характерные комментарии», — отметил Станислав Раковский, руководитель группы Supply Chain Security.

Вредоносные пакеты загрузили более 200 раз, но атака была быстро выявлена с помощью сервиса PT PyAnalysis.

Positive Technologies советует проверять источники стороннего ПО и использовать инструменты анализа безопасности для защиты от подобных угроз.

Права авторов при обучении ИИ уточнят в подзаконных актах осенью

Новый закон о поддержке развития искусственного интеллекта не отменяет Гражданский кодекс и не превращает произведения авторов в бесплатный корм для нейросетей. Об этом заявила советник президента России Елена Ямпольская. Закон, подписанный президентом 26 июля, разрешает использовать общедоступные и правомерно опубликованные материалы для обучения российских алгоритмов ИИ.

Однако правообладатель может закрыть свои работы от такой обработки техническими средствами. Бесконтрольно загружать в модели всё, до чего дотянулся парсер, нельзя.

Как именно будет работать этот механизм, пока предстоит решить. Подзаконные акты, по данным «Ведомостей», начнут появляться осенью. При их подготовке власти обещают учесть опасения творческих отраслей, представители которых предупреждали об обесценивании интеллектуальной собственности.

Эксперты тем временем предлагают несколько способов помирить нейросети с авторами. Среди них — отказ от использования произведений по требованию правообладателя, коллективное лицензирование и отчисление части прибыли ИИ-продуктов в компенсационный фонд.

В РАНХиГС считают, что разработчиков генеративных моделей стоит обязать вести закрытые реестры обучающих данных и показывать их регуляторам. Так можно будет понять, чьи произведения попали в датасет, не раскрывая коммерческую тайну.

Юрист Михаил Семенов предлагает разделять сценарии. Если модель копирует голос актёра, манеру художника или тексты конкретного писателя, потребуется прямой договор и выплаты. При массовом обучении на миллиардах материалов искать каждого автора нереально — здесь пригодился бы аналог авторского общества для ИИ.

В отрасли есть и более жёсткий взгляд: чрезмерные ограничения могут ударить и по экономике, и по культуре. Поэтому властям предстоит настроить систему так, чтобы модели не остались голодными, а авторы — с красивым обещанием вместо денег.

RSS: Новости на портале Anti-Malware.ru