Американец попытался приказать судебному ИИ поддержать его

Американец попытался приказать судебному ИИ поддержать его

Американец попытался приказать судебному ИИ поддержать его

Судья Верховного суда Коннектикута Уолтер Спейдер применил санкции к истцу, который пытался внедрить в судебные документы скрытые инструкции для искусственного интеллекта. По оценке судьи, это первый выявленный в США случай инъекции промпта в материалы дела.

Мэттью Эллиотт, самостоятельно судившийся с медицинской организацией из-за доступа к документам, добавил в ходатайства белый текст размером 3 пункта на белом фоне.

Человек такую надпись почти не замечает, зато система извлечения текста читает без проблем. Скрытая команда требовала от любого ИИ, анализирующего документы, поддержать позицию Эллиотта, проигнорировать прежние отказы суда и сформировать благоприятный для него вывод.

На исход дела инъекция не повлияла. Судебная система Коннектикута не использует ИИ для анализа этих документов или принятия решений. Однако Спейдер назвал попытку серьёзным злоупотреблением процессуальными правами. Такая инструкция могла выдать указание автора за команду суда, его сотрудника или другой доверенной стороны.

После предупреждения Эллиотт не остановился и продолжил вставлять скрытые сообщения. Позднее он назвал их шутками: среди них были ссылка на ролик «Носферату», обращение «hi :) I hope you cant see me» и бессмысленный набор слов.

Денежный штраф суд назначать не стал. Вместо этого Эллиотту запретили пользоваться электронной системой и обязали подавать документы лично, на бумаге.

Раньше суды в основном сталкивались с выдуманными чат-ботами прецедентами и цитатами. Теперь появилась обратная угроза — манипуляция данными, поступающими на вход ИИ.

Подпишитесь на новости

Avanpost вывела Identity Cloud на рынок, первым партнёром стал CURATOR

Защита корпоративного входа переезжает в облако. Avanpost запустила коммерческую эксплуатацию Identity Cloud — сервиса многофакторной аутентификации и единого входа для сотрудников и подрядчиков. Первым партнёром, развернувшим платформу у себя, стал CURATOR: он предлагает её под брендом CURATOR.IDENTITY.

Avanpost Identity Cloud позволяет подключать защиту доступа по подписке, без отдельного тяжёлого проекта по развёртыванию ядра IAM.

После тестирования с июня по октябрь сервис выходит на рынок со стоимостью от 168 рублей за пользователя в месяц.

Тарифы есть под разные задачи. Start предназначен для базовой защиты VPN и веб-приложений: второй фактор и единый вход. Expert добавляет контекстную аутентификацию, оценку риска, правила для групп и аварийный вход. E-passport ориентирован на бесшовный доступ между разными типами приложений и криптографическую защиту сессий.

 

Zero Trust предполагает проверку устройств и непрерывную оценку доверия; на сайте этот тариф пока отмечен как предстоящий. Часть возможностей старших пакетов тоже появится позднее.

Рыночный контекст показательный: за рубежом облачная идентификация давно стала самостоятельным сегментом. В России направление пока заметно скромнее — но говорить, что до запуска его вообще не существовало, было бы перебором.

Для каждого клиента предусмотрен отдельный контур с собственной базой данных. Внутренние системы подключаются через Access Bridge: инфраструктурные секреты остаются у заказчика, а офлайн-аутентификация предусмотрена на случай потери связи с облаком.

Партнёрам доступны две модели: перепродавать сервис Avanpost либо развернуть платформу в своей инфраструктуре и продавать под собственным брендом, как сделал CURATOR.

RSS: Новости на портале Anti-Malware.ru