GPT-5 ошибся в задаче по стохастическому анализу, показав пределы ИИ

GPT-5 ошибся в задаче по стохастическому анализу, показав пределы ИИ

GPT-5 ошибся в задаче по стохастическому анализу, показав пределы ИИ

Математики из Университета Люксембурга проверили, на что способен GPT-5 в серьёзных задачах по стохастическому анализу. Они поручили модели расширить так называемую теорему о четвёртом моменте, добавив к ней явные скорости сходимости — ранее это никто не делал в рамках подхода Мальявена–Стейна.

Поводом для эксперимента стали заявления, что GPT-5 уже умеет решать нетривиальные задачи в оптимизации.

Но на практике вышло иначе: ИИ допускал критические ошибки, требовал постоянных подсказок и корректировок. В частности, он даже пропустил ключевое свойство ковариации, которое легко вывести из предоставленных материалов.

Учёные сравнили работу с GPT-5 с взаимодействием с неопытным помощником, за которым нужно всё тщательно перепроверять.

И предупредили: если аспиранты начнут слишком полагаться на такие инструменты, они рискуют лишиться важного опыта — проб и ошибок, без которых не формируется настоящее математическое мышление.

Напомним, в прошлом месяце исследователи нашли необычную уязвимость в GPT-5, которая получила название PROMISQROUTE. Суть проблемы в том, что ответы пользователю не всегда формируются самой GPT-5: внутри работает специальный «роутер», который решает, какой именно из моделей поручить обработку запроса.

Кроме того, в августе мы сообщали о новом джейлбрейке, который обходит защиту GPT-5 с помощью скрытых историй.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Атаки на цепочки поставок компаний выросли на 110% за восемь месяцев

Число атак на цепочки поставок за последние восемь месяцев выросло на 110% по сравнению с прошлым годом. Сегодня на такие инциденты приходится уже около 30% всех кибератак, подсчитали специалисты «Информзащиты». Эксперты объясняют рост тем, что бизнес всё активнее цифровизуется, использует открытый код и новые BB-инструменты.

При этом экосистемы поставок становятся всё сложнее, а это значит больше подрядчиков, сервисов и каналов, через которые можно проникнуть в инфраструктуру. Взломав одного поставщика, злоумышленники получают доступ сразу к множеству крупных клиентов.

Чаще всего подобные атаки фиксируются в промышленности (41%), ретейле (32%), энергетике (15%) и высокотехнологичных компаниях (12%). Здесь подрядчики и поставщики нередко имеют прямой доступ к критически важным системам, что делает их удобной целью.

Дополнительный фактор риска — использование open-source модулей, которые входят почти в любое современное ПО. Эксперты отмечают, что до 90% приложений так или иначе зависят от открытых библиотек, а быстрые темпы разработки с помощью AI повышают шанс повторного применения небезопасного кода.

Кроме того, киберпреступники становятся всё профессиональнее: активно применяют эксплойты нулевого дня и ищут уязвимости во VPN и периферийных устройствах.

По мнению специалистов, обычные проверки подрядчиков уже не спасают. Для снижения рисков рекомендуют вести подробный учёт всех компонентов ПО (SBOM), требовать от поставщиков прозрачности и чётких сроков устранения уязвимостей, использовать Zero Trust и микросегментацию в сетях, а также применять автоматизированные инструменты для поиска и исправления проблем.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru