Американец попытался приказать судебному ИИ поддержать его

Американец попытался приказать судебному ИИ поддержать его

Американец попытался приказать судебному ИИ поддержать его

Судья Верховного суда Коннектикута Уолтер Спейдер применил санкции к истцу, который пытался внедрить в судебные документы скрытые инструкции для искусственного интеллекта. По оценке судьи, это первый выявленный в США случай инъекции промпта в материалы дела.

Мэттью Эллиотт, самостоятельно судившийся с медицинской организацией из-за доступа к документам, добавил в ходатайства белый текст размером 3 пункта на белом фоне.

Человек такую надпись почти не замечает, зато система извлечения текста читает без проблем. Скрытая команда требовала от любого ИИ, анализирующего документы, поддержать позицию Эллиотта, проигнорировать прежние отказы суда и сформировать благоприятный для него вывод.

На исход дела инъекция не повлияла. Судебная система Коннектикута не использует ИИ для анализа этих документов или принятия решений. Однако Спейдер назвал попытку серьёзным злоупотреблением процессуальными правами. Такая инструкция могла выдать указание автора за команду суда, его сотрудника или другой доверенной стороны.

После предупреждения Эллиотт не остановился и продолжил вставлять скрытые сообщения. Позднее он назвал их шутками: среди них были ссылка на ролик «Носферату», обращение «hi :) I hope you cant see me» и бессмысленный набор слов.

Денежный штраф суд назначать не стал. Вместо этого Эллиотту запретили пользоваться электронной системой и обязали подавать документы лично, на бумаге.

Раньше суды в основном сталкивались с выдуманными чат-ботами прецедентами и цитатами. Теперь появилась обратная угроза — манипуляция данными, поступающими на вход ИИ.

МВД призвало не возвращать незнакомцам ошибочные переводы

Если на банковский счёт неожиданно поступили деньги от неизвестного человека, не следует самостоятельно отправлять их обратно. Такой перевод может оказаться частью мошеннической схемы, предупредили в управлении по борьбе с противоправным использованием информационно-коммуникационных технологий МВД России.

Для начала нужно проверить, действительно ли деньги зачислены. Мошенники нередко рассылают поддельные банковские уведомления и сразу просят вернуть несуществующий платёж.

Смотреть баланс следует только в официальном приложении банка или на его сайте. СМС и скриншот от незнакомца доказательством внезапного обогащения не считаются.

Если перевод настоящий, тратить деньги нельзя, даже когда сумма выглядит незначительной. Расходование чужих средств может быть признано необоснованным обогащением. Тогда получателю придётся вернуть деньги, а при споре, а также столкнуться с судебными издержками.

Самостоятельно пересылать сумму по реквизитам, которые назвал отправитель, тоже не стоит. Злоумышленники могут использовать человека как дополнительное звено в цепочке обналичивания. Другой вариант — после возврата начать запугивать жертву обвинениями в финансировании запрещённых организаций.

Все действия нужно проводить через банк. Следует сообщить о неизвестном платеже и оформить возврат официальным способом. Некоторые организации позволяют безопасно вернуть ошибочный перевод прямо в мобильном приложении (например, такая функция есть у Сбербанка).

МВД также рекомендует сохранить сообщения, номера телефонов и сведения о звонках. Они могут понадобиться банку или полиции, если история с ошибкой внезапно превратится в вымогательство.

Алгоритм такой: проверить баланс, деньги не трогать, незнакомцу ничего не переводить и позвонить в банк по официальному номеру.

RSS: Новости на портале Anti-Malware.ru