Использование ИИ в преступных целях грозит 15 годами заключения

Использование ИИ в преступных целях грозит 15 годами заключения

Использование ИИ в преступных целях грозит 15 годами заключения

Использование искусственного интеллекта (ИИ) для совершения краж, вымогательства, мошенничества или вмешательства в работу ИТ-систем будет наказываться штрафом до 2 млн рублей или лишением свободы на срок до 15 лет. Такая мера предусмотрена во втором пакете антимошеннических инициатив.

Ранее подготовить соответствующие предложения рекомендовала Правительственная комиссия по итогам заседания в марте 2025 года. В апреле группа депутатов Госдумы внесла законопроект, в котором использование ИИ рассматривается как отягчающее обстоятельство.

Инициатива была выдвинута Минцифры и представлена на совещании у первого вице-премьера, руководителя Аппарата правительства Дмитрия Григоренко. Документ по итогам совещания оказался в распоряжении «Ведомостей». Источники издания в правительстве подтвердили его подлинность.

Поправки вносятся в статьи Уголовного кодекса РФ: 158 (кража), 159 (мошенничество), 163 (вымогательство), 272 (неправомерное воздействие на информационные системы и сети), а также 274 (нарушение правил эксплуатации средств хранения, обработки и передачи информации).

В документе также приводится определение ИИ: «Комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».

Использование ИИ при совершении преступлений будет приравнено к таким отягчающим обстоятельствам, как действия в составе организованной группы, причинение тяжкого вреда здоровью, нанесение значительного ущерба или попытка завладения особо крупным имуществом.

Какие конкретно технологии ИИ попадут под действие новых норм, в Минцифры пока не уточнили. Там также напомнили, что меры второго антимошеннического пакета проходят межведомственное согласование и могут быть существенно доработаны.

По мнению опрошенных изданием экспертов, злоупотребление ИИ действительно становится всё более заметной угрозой. Такие технологии, как дипфейк, имитация голоса и подмена биометрических данных, позволяют создавать более правдоподобные обманы, что затрудняет расследование преступлений и увеличивает возможный ущерб.

В то же время определение ИИ, предложенное в поправках, эксперты считают некорректным: оно охватывает практически любые инструменты машинного обучения, что создаёт риск чрезмерного расширения уголовного преследования.

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

ИИ-браузеры обещали самостоятельно разбираться с рутиной, но исследователи Zenity выяснили: иногда они столь же самостоятельно начинают выполнять команды злоумышленников. Специалисты обнаружили около 20 уязвимостей в браузерах и расширениях от OpenAI, Google, Anthropic, Microsoft и Perplexity.

Самый эффектный трюк провернули с OpenAI Atlas. Исследователи разместили на поддельной странице подписки скрытые инструкции на иврите.

Они убедили агента, что тот работает в песочнице с вымышленными пользователями, после чего Atlas открыл WhatsApp Web (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) и начал рассылать сообщение контактам владельца аккаунта.

Получился зачаток цифрового червя: один заражённый пользователь зовёт остальных на ту же страницу.

Уязвимость находилась не в WhatsApp. Атакующие обманули сам ИИ-браузер, который смешал законную просьбу пользователя с командами сайта. В Zenity называют это столкновением намерений.

Затем исследователи отправили Atlas на Amazon. Агент добавил новый адрес доставки и положил планшет в корзину, но перед оплатой упёрся в защитные ограничения OpenAI. Казалось бы, приехали. Однако Atlas попросил совершить покупку встроенного помощника Rufus, и тот послушно оплатил товар, решив, что общается с владельцем аккаунта.

Другие найденные изъяны позволяли получать доступ к локальным устройствам, красть файлы, перехватывать управление менеджером паролей и выгружать историю браузера.

В OpenAI заявили, что получили отчёт Zenity в январе и уже усилили защиту Atlas. Сам браузер компания отключит 9 августа, а новые механизмы перенесёт в браузерные функции приложения ChatGPT.

RSS: Новости на портале Anti-Malware.ru