GPT-5 ошибся в задаче по стохастическому анализу, показав пределы ИИ

GPT-5 ошибся в задаче по стохастическому анализу, показав пределы ИИ

GPT-5 ошибся в задаче по стохастическому анализу, показав пределы ИИ

Математики из Университета Люксембурга проверили, на что способен GPT-5 в серьёзных задачах по стохастическому анализу. Они поручили модели расширить так называемую теорему о четвёртом моменте, добавив к ней явные скорости сходимости — ранее это никто не делал в рамках подхода Мальявена–Стейна.

Поводом для эксперимента стали заявления, что GPT-5 уже умеет решать нетривиальные задачи в оптимизации.

Но на практике вышло иначе: ИИ допускал критические ошибки, требовал постоянных подсказок и корректировок. В частности, он даже пропустил ключевое свойство ковариации, которое легко вывести из предоставленных материалов.

Учёные сравнили работу с GPT-5 с взаимодействием с неопытным помощником, за которым нужно всё тщательно перепроверять.

И предупредили: если аспиранты начнут слишком полагаться на такие инструменты, они рискуют лишиться важного опыта — проб и ошибок, без которых не формируется настоящее математическое мышление.

Напомним, в прошлом месяце исследователи нашли необычную уязвимость в GPT-5, которая получила название PROMISQROUTE. Суть проблемы в том, что ответы пользователю не всегда формируются самой GPT-5: внутри работает специальный «роутер», который решает, какой именно из моделей поручить обработку запроса.

Кроме того, в августе мы сообщали о новом джейлбрейке, который обходит защиту GPT-5 с помощью скрытых историй.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Шифровальщик CyberVolk использует сбойный Nonce и губит данные навсегда

Исследователи AhnLab опубликовали подробный разбор нового семейства вымогателей CyberVolk, которое с мая 2024 года активно атакует госучреждения и критическую инфраструктуру. Главная особенность зловреда — невосстановимое шифрование, из-за которого вернуть данные практически невозможно.

По данным специалистов, группировка придерживается пророссийской позиции и выбирает в качестве целей страны, считающиеся «недружественными» к России.

В числе недавних атак — инфраструктурные и научные организации в Японии, Франции и Великобритании. Для связи злоумышленники используют Telegram.

Как работает CyberVolk:

  • запускается с повышением привилегий до администратора;
  • пропускает системные каталоги вроде Program Files и ProgramData, чтобы не «положить» Windows;
  • файлы получают расширение .CyberVolk;
  • применяется двухуровневое шифрование — сначала AES-256 GCM, затем ChaCha20-Poly1305.

 

Но тут скрыт главный «сюрприз». Разработчики допустили фатальную ошибку: при расшифровке программа использует неверное значение Nonce. Поскольку правильное значение нигде не сохраняется, даже наличие ключа не помогает. Восстановить файлы математически невозможно.

В конце атаки вымогатель оставляет записку READMENOW.txt и предлагает ввести ключ — всего три попытки. Но даже правильный ключ не сработает: алгоритм изначально «сломанный».

По сути, CyberVolk — это шифровальщик без обратного пути, который превращает данные в мусор.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru