GPT-6 Astra научилась создавать эксплойты со стопроцентной точностью

GPT-6 Astra научилась создавать эксплойты со стопроцентной точностью

GPT-6 Astra научилась создавать эксплойты со стопроцентной точностью

OpenAI представила GPT-6 Astra, назвав её самой интеллектуальной и согласованной с человеком моделью в мире. Новинка умеет работать с компьютером и браузером, писать код, решать научные задачи, а также и настолько хорошо создавать эксплойты, что выпускать её без предохранителей корпорация благоразумно не стала.

На ExploitBench, где ИИ превращает известные уязвимости в работающие эксплойты, Astra набрала 100%.

Предыдущая GPT-5.6 Sol получила 78,5%. В отдельном тесте на свежих уязвимостях модель достигла выполнения произвольного кода в 39% случаев против 11,5% у предшественницы и попутно обнаружила две неизвестные 0-day. Информацию о них OpenAI передаёт разработчикам затронутого софта.

Экспертные испытания без публичных ограничений показали, что Astra способна использовать неизвестные уязвимости для выполнения кода в защищённых браузерах и создавать эксплойты для повышения привилегий в современных ОС.

Поэтому публичная версия ограничена безопасным анализом кода и подготовкой исправлений. Запросы на создание PoC-эксплойтов она будет отклонять. Расширенный доступ для проверки уязвимостей, анализа вредоносных программ и разработки средств обнаружения OpenAI планирует выдавать защитникам через программу Daybreak.

Компания также усилила защиту от джейлбрейка и внедрила мониторинг действий модели. Проверки могут останавливать даже легитимные задачи по кибербезопасности и требовать подтверждения пользователя.

Сейчас Astra получают отдельные организации. Затем модель появится у подписчиков ChatGPT Plus, Pro, Business и Enterprise, а также в API, Microsoft Azure и AWS Bedrock.

Параллельно OpenAI пообещала направить $1 млрд на предоставление передовых ИИ-инструментов энергетикам, банкам, водоканалам, госорганам и разработчикам open source.

ИИ не узнал дом британского премьера: на Booking.com сдали Даунинг-стрит

Системы безопасности Booking.com не заметили ничего странного в предложении снять квартиру на Даунинг-стрит, 10 — по адресу официальной резиденции премьер-министра Великобритании. Фальшивое объявление создали исследователи организации Which?, чтобы проверить защиту платформы от мошенников.

В карточке красовались точный адрес, фотография знаменитого здания и описание «однокомнатного жилья в самом центре Лондона», всего в четырёх минутах ходьбы от парламента.

Объявление появилось 18 июня, а возможность бронирования ненадолго открыли специально для теста. И Booking.com не подвёл (правда, совсем не в том смысле).

Платформа обработала платёж за недельное проживание, причём спустя более шести недель деньги исследователю так и не вернули. Следом модерацию почти мгновенно прошёл фальшивый отзыв об исключительном отдыхе и общении с котом Ларри, официальным мышеловом резиденции.

На этом аттракцион доверчивости не закончился. Через внутренний чат Booking.com исследователи отправили внешнюю ссылку с просьбой ввести данные банковской карты якобы для подтверждения брони. Система, которая, по словам компании, умеет блокировать подозрительные адреса, опять решила не вмешиваться.

Объявление окончательно удалили лишь 27 августа. В Which? назвали результаты проверки свидетельством системных сбоев и призвали британского регулятора Ofcom начать расследование.

«Если сложный ИИ Booking.com не понимает, что Даунинг-стрит, 10 — не домик для отпуска, неудивительно, что мошенники так легко используют платформу», — заявил редактор Which? Travel Рори Боланд.

В Booking.com ответили, что эксперимент не отражает опыт миллионов клиентов, а объявление якобы не было публично доступно. Некоторые антифрод-механизмы поэтому не активировались.

RSS: Новости на портале Anti-Malware.ru