Папскую энциклику об ИИ заподозрили в использовании ИИ

Папскую энциклику об ИИ заподозрили в использовании ИИ

Папскую энциклику об ИИ заподозрили в использовании ИИ

Автор LessWrong Линч разобрал первую энциклику Папы Льва XIV Magnifica Humanitas, посвящённую защите человека в эпоху искусственного интеллекта, и пришёл к довольно ироничному выводу: значительная часть текста, возможно, была написана с помощью ИИ.

Линч утверждает, что его насторожили не отдельные фразы, а целый набор признаков.

Среди них подозрительно частое использование длинного тире, повторяющиеся риторические конструкции из трёх элементов и слова вроде genuinely, которое автор считает характерным маркером текстов Claude от Anthropic.

По его подсчётам, в Magnifica Humanitas длинное тире встречается 127 раз. Для сравнения, в нескольких предыдущих папских энцикликах таких случаев либо не было вовсе, либо их было заметно меньше. То же самое, по словам Линча, касается частоты употребления слов genuine и genuinely: в новом документе они встречаются гораздо чаще, чем в сопоставимых текстах прошлых лет.

 

Линч прогнал фрагменты энциклики через ИИ-детектор Pangram. По его словам, часть абзацев сервис оценил как написанные ИИ с вероятностью от 40% до 100%, тогда как большинство абзацев выглядели человеческими. Прошлые энциклики, которые Линч использовал для сравнения, Pangram якобы определил как полностью написанные людьми.

 

Отдельно автор проверял версию о том, что странности могли появиться из-за перевода. Но, по его словам, похожие признаки сохранились и в итальянской версии документа. Более того, итальянский текст тоже получил срабатывания в Pangram. Поэтому Линч считает, что дело не просто в неудачном английском переводе.

Самая пикантная часть гипотезы — возможный почерк Claude. Линч пишет, что именно эта модель часто использует лексику и ритм, похожие на спорные фрагменты энциклики. При этом он не утверждает, что весь текст написал ИИ. Скорее, по его версии, разные части документа могли готовить разные участники, и некоторые из них активно пользовались нейросетями.

Автор также допускает, что сам Папа Лев XIV мог не знать о таком участии ИИ в подготовке текста. В пользу этого он приводит результат проверки речи понтифика, произнесённой при представлении энциклики: её Pangram определил как человеческую.

Подпишитесь на новости

Мошенники подбирают вредоносные Android-приложения под возраст жертв

Сбер фиксирует рост распространения вредоносных приложений для Android. По данным банка, злоумышленники подбирают приманки с учётом возраста аудитории: детям предлагают игры, людям среднего возраста — приложения для скидок и оплаты ЖКХ, пожилым — программы для записи к врачу.

В сообщении от 20 ноября банк рассказал, что установочные APK-файлы и ссылки на поддельные сайты распространяют через телеграм-каналы, чаты и личные сообщения.

Их выдают за рекламу или рекомендации пользователей. Файл может прийти и от знакомого, чей аккаунт взломали.

После установки и выдачи разрешений вредоносные программы могут читать СМС и уведомления, похищать вводимые данные и коды подтверждения. Некоторые позволяют удалённо управлять смартфоном, создавая риск кражи личной информации и денег.

Сбер рекомендует проверять источник приложения по официальному сайту разработчика. Если установочный файл неожиданно прислал знакомый, стоит связаться с ним другим способом и уточнить, действительно ли он отправлял сообщение.

Отдельное внимание банк советует уделять разрешениям: сомнительным программам нельзя предоставлять доступ к СМС, уведомлениям, специальным возможностям Android и функциям администратора устройства. Также не следует отключать защиту по указанию из переписки или с неизвестного сайта.

По данным Сбера, встроенный антивирус в «СберБанк Онлайн» для Android еженедельно обезвреживает около 100 тысяч угроз. Масштаб роста распространения вредоносных приложений и период сравнения в сообщении не указаны.

RSS: Новости на портале Anti-Malware.ru