Папскую энциклику об ИИ заподозрили в использовании ИИ

Папскую энциклику об ИИ заподозрили в использовании ИИ

Папскую энциклику об ИИ заподозрили в использовании ИИ

Автор LessWrong Линч разобрал первую энциклику Папы Льва XIV Magnifica Humanitas, посвящённую защите человека в эпоху искусственного интеллекта, и пришёл к довольно ироничному выводу: значительная часть текста, возможно, была написана с помощью ИИ.

Линч утверждает, что его насторожили не отдельные фразы, а целый набор признаков.

Среди них подозрительно частое использование длинного тире, повторяющиеся риторические конструкции из трёх элементов и слова вроде genuinely, которое автор считает характерным маркером текстов Claude от Anthropic.

По его подсчётам, в Magnifica Humanitas длинное тире встречается 127 раз. Для сравнения, в нескольких предыдущих папских энцикликах таких случаев либо не было вовсе, либо их было заметно меньше. То же самое, по словам Линча, касается частоты употребления слов genuine и genuinely: в новом документе они встречаются гораздо чаще, чем в сопоставимых текстах прошлых лет.

 

Линч прогнал фрагменты энциклики через ИИ-детектор Pangram. По его словам, часть абзацев сервис оценил как написанные ИИ с вероятностью от 40% до 100%, тогда как большинство абзацев выглядели человеческими. Прошлые энциклики, которые Линч использовал для сравнения, Pangram якобы определил как полностью написанные людьми.

 

Отдельно автор проверял версию о том, что странности могли появиться из-за перевода. Но, по его словам, похожие признаки сохранились и в итальянской версии документа. Более того, итальянский текст тоже получил срабатывания в Pangram. Поэтому Линч считает, что дело не просто в неудачном английском переводе.

Самая пикантная часть гипотезы — возможный почерк Claude. Линч пишет, что именно эта модель часто использует лексику и ритм, похожие на спорные фрагменты энциклики. При этом он не утверждает, что весь текст написал ИИ. Скорее, по его версии, разные части документа могли готовить разные участники, и некоторые из них активно пользовались нейросетями.

Автор также допускает, что сам Папа Лев XIV мог не знать о таком участии ИИ в подготовке текста. В пользу этого он приводит результат проверки речи понтифика, произнесённой при представлении энциклики: её Pangram определил как человеческую.

Новый USB-червь с Tor и скриншотами крадёт ключи от криптокошельков

Специалисты Microsoft предупредили о новой вредоносной кампании, нацеленной на владельцев криптовалюты. Зловред распространяется через USB-накопители, умеет самостоятельно копировать себя на новые устройства и подменяет адреса криптокошельков прямо в буфере обмена.

Схема атаки выглядит старомодно, но работает эффективно. Всё начинается с заражённой флешки, на которой находится вредоносный LNK-файл — обычный ярлык Windows. Стоит пользователю его открыть, как на устройство загружаются дополнительные компоненты через сеть Tor.

После заражения вредоносная программа сканирует компьютер в поисках документов. Найденные файлы она скрывает, а вместо них создаёт одноимённые ярлыки. Пользователь думает, что открывает привычный документ, а на самом деле запускает очередной этап заражения.

Если к компьютеру подключают новую флешку, червь автоматически копирует себя и на неё. Так вредонос распространяется дальше без участия злоумышленников.

 

Основная цель кампании — криптовалюта. Каждые полсекунды программа проверяет содержимое буфера обмена и ищет адреса криптокошельков, закрытые ключи и сид-фразы. Под удар попадают Bitcoin, Ethereum, Tron, Monero и другие популярные криптовалюты.

Как только пользователь копирует адрес для перевода средств, вредоносная программа незаметно заменяет его на адрес кошелька злоумышленников. Причём поддельный адрес подбирается так, чтобы внешне максимально походить на оригинальный. Многие пользователи могут даже не заметить подмену.

Но этим возможности зловреда не ограничиваются. Он также делает скриншоты экрана каждые десять секунд и отправляет их через Tor на управляющий сервер. Кроме того, операторы могут удалённо загружать и запускать дополнительный код на заражённой системе.

По данным Microsoft, наиболее надёжными признаками заражения являются подозрительная активность процессов wscript.exe и cscript.exe, неожиданные запуски PowerShell, cmd.exe и curl, а также обращения к локальному порту Tor — localhost:9050.

Фактически перед нами не просто клиппер для кражи криптовалюты, а полноценный червь с функциональностью шпионажа и удалённого управления. И если раньше пользователям советовали внимательно проверять адреса кошельков перед переводом, то теперь эта рекомендация становится ещё более актуальной.

RSS: Новости на портале Anti-Malware.ru