На Кубани судей заподозрили в использовании ИИ

На Кубани судей заподозрили в использовании ИИ

На Кубани судей заподозрили в использовании ИИ

В Краснодарский краевой суд поступила апелляционная жалоба защиты, основанием для которой стало использование генеративного искусственного интеллекта (ИИ) при составлении судебного решения. Речь идет о приговоре Ейского городского суда в отношении двух сотрудников полиции, признанных виновными в получении взяток от торговца контрафактным алкоголем.

Как сообщает «Коммерсантъ», оба подсудимых получили по семь лет лишения свободы.

Адвокат одного из осужденных, Алексей Аванесян, обратил внимание на ряд фраз в приговоре, которые показались ему нехарактерными для судебных документов. Чтобы проверить свои подозрения, он обратился к лингвисту с просьбой определить, могли ли эти выражения быть результатом работы ИИ.

Эксперт пришёл к выводу о высокой вероятности того, что при составлении приговора действительно использовался генеративный искусственный интеллект. Среди признаков были указаны смешение стилей, несоблюдение жанровых особенностей текста, неуместность ряда слов и выражений, «пустая массивность» и «бессмысленность» некоторых конструкций, а также их «неестественность».

Этот факт стал основанием для обжалования решения в суде более высокой инстанции. В своей жалобе Алексей Аванесян особо подчеркнул, что действующее законодательство не предусматривает использование искусственного интеллекта при подготовке судебных актов.

Однако коллегия по уголовным делам не согласилась с доводами адвоката. В решении указано, что приговор «изложен в ясных и понятных выражениях», а выбранная судом стилистика «не влияет на законность решения и не противоречит нормам УПК».

«В любом случае, независимо от вопросов к стилю, объективная сторона дела остаётся неизменной. Но стороны не лишены права обжаловать приговор в кассации, если считают, что он вынесен с нарушениями», — сообщили в объединённой пресс-службе судов Краснодарского края в ответ на запрос издания.

Сам Алексей Аванесян отметил, что главной целью обжалования стало желание прояснить правовой статус применения ИИ при подготовке судебных документов.

«К сожалению, мы так и не получили прямого ответа на этот вопрос, хотя его сегодня ждут многие, — заявил адвокат. — Я, скорее, даже сторонник того, чтобы приговоры писали нейросети, ведь в этом случае они не смогут игнорировать доказательства, принимать недопустимые материалы, закрывать глаза на противоречия и несостыковки в деле, отмахиваться от показаний свидетелей или заключений экспертов. Искусственный интеллект просто не способен на это. Но если он и используется, то приговор должен быть написан им полностью — от начала и до конца, без возможности человека изымать из текста объективные, но “неудобные” фрагменты».

ИИ научился клепать клоны Android-приложений почти за копейки

Нейросети могут за несколько минут изменить Android-приложение, пересобрать его и сохранить работоспособность. Причём цена такой операции начинается с 88 копеек, выяснили специалисты Positive Technologies. Эксперимент провели на 90 приложениях разных категорий.

Вредоносный код исследователи не добавляли: они вносили нейтральное изменение и проверяли, продолжит ли программа работать после вмешательства.

Результат получился неприятный. Закрытые коммерческие модели успешно справились с задачей в 84% попыток, модели с открытыми весами — в 61%. В среднем нейросети требовалось 14 итераций и от пяти с половиной до девяти минут.

 

Стоимость одного успешного результата составила от 0,88 до 40,89 рубля. То есть за несколько тысяч рублей потенциальный злоумышленник может попробовать модифицировать сотню популярных приложений.

На практике вместо безобидной правки в APK можно встроить перехват данных, изменить поведение программы или добавить связь с внешним сервером. Затем поддельную сборку легко выдать за оригинал, улучшенную версию или приложение, которое якобы недоступно в официальном магазине.

 

Распространять такие клоны могут через сторонние каталоги, сайты, мессенджеры и тематические сообщества. Особенно уязвимы пользователи, которые привыкли скачивать APK где придётся.

В Positive Technologies отмечают, что ИИ не изобрёл новый вид атаки, но заметно снизил порог входа. То, что раньше требовало времени и навыков реверс-инжиниринга, теперь можно частично поручить нейросети.

Разработчикам советуют защищать код от анализа и изменения, отслеживать появление неофициальных сборок и закладывать безопасность ещё на этапе разработки. Иначе клон приложения может появиться быстрее, чем команда успеет выпустить очередной патч.

RSS: Новости на портале Anti-Malware.ru