В России впервые оштрафовали за использование ИИ при составлении документов

В России впервые оштрафовали за использование ИИ при составлении документов

В России впервые оштрафовали за использование ИИ при составлении документов

Арбитражный суд Западно-Сибирского округа оштрафовал компанию ЦСС на 50 тыс. рублей за подачу жалобы, содержащей заведомо ложные сведения. Документ был подготовлен с помощью генеративного искусственного интеллекта (ИИ). Дело касалось попытки взыскать с кемеровской компании ЦСС 58 тыс. рублей за якобы неоказанные бухгалтерские услуги.

Об этом прецеденте, который, как сообщается, стал первым подобным случаем в России, написало онлайн-издание «Фонтанка».

В жалобу были включены многочисленные постановления российских судов, в том числе высших инстанций, а также цитаты из них, якобы относящиеся к рассмотрению аналогичных дел.

Все они должны были подтвердить обоснованность позиции ответчика и ошибочность принятого решения, в том числе нарушение норм материального и процессуального права. Однако выяснилось, что большинство приведённых постановлений либо вообще не существует, либо не содержит указанных выводов.

Кассационная инстанция отклонила жалобу. Более того, её подателей привлекли к ответственности за неуважение к суду и назначили штраф в размере 50 тыс. рублей. Использование ИИ суд не признал оправданием.

«ООО „ЦСС“ предоставило суду заведомо ложные сведения, сфальсифицировав источники и стремясь воздействовать на суд округа непререкаемым авторитетом высшей судебной инстанции. Надеясь на поверхностное изучение судом округа аргументов кассационной жалобы и принятие желаемого для заявителя постановления, что является прямым обманом суда и грубейшим проявлением неуважения к правосудию», – говорится в определении суда.

За рубежом аналогичные решения выносятся уже не впервые. Так, в 2024 году американский регулятор оштрафовал компанию DoNotPay на 193 тыс. долларов за нарушение регуляторных требований. В отношении ещё нескольких компаний были возбуждены дела о мошенничестве.

В ONLYOFFICE нашли цепочку уязвимостей: достаточно открыть один файл

Эксперты BI.ZONE обнаружили в ONLYOFFICE Desktop Editors цепочку уязвимостей OnlyShells, которая позволяла атакующему выполнить произвольный код и повысить привилегии в Windows. Жертве достаточно открыть специально подготовленный офисный документ.

Никаких макросов, кнопок «Разрешить содержимое» и долгих уговоров — атака относится к классу 1-click.

Сначала злоумышленник мог использовать сразу несколько уязвимостей для запуска своего кода в системе. Затем ещё одна проблема позволяла повысить права до привилегированного пользователя. В результате атакующий получал максимально широкий доступ к компьютеру.

Причиной стали недостаточная проверка пользовательских данных и устаревшие зависимости. Отдельным уязвимостям присвоили оценки до 6,4 по шкале CVSS 3.1, но в связке их опасность заметно возрастала.

По оценке BI.ZONE TDR, ONLYOFFICE используют около 30% российских компаний. Сам разработчик заявляет о более чем 15 млн пользователей по всему миру.

В BI.ZONE отмечают, что современные средства защиты могут не заметить сам момент эксплуатации цепочки. То есть пользователь просто открывает документ, а дальше система уже начинает жить немного не своей жизнью.

Разработчика уведомили в рамках ответственного раскрытия, после чего он выпустил исправление. Пользователям рекомендуют обновить ONLYOFFICE Desktop Editors до версии 9.3.0.

RSS: Новости на портале Anti-Malware.ru