Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Исследователям из Иллинойского университета (UIUC) удалось повысить эффективность автономных ИИ-взломщиков, использующих уязвимости нулевого дня, сгруппировав их и распределив роли. Созданный с этой целью многоагентный фреймворк получил имя HPTSA.

Ранее та же команда исследователей доказала, что боты на основе больших языковых моделей (БЯМ, LLM) могут автономно находить уязвимости и эксплуатировать их с успехом до 87%. Кроме того, недавно мы рассказывали об уязвимостях и рисках, связанных с большими языковыми моделями.

Однако, действуя в одиночку, такие взломщики тратят много времени на поиск лазеек и планирование атак; объединив их усилия по методу HPTSA (PDF), можно улучшить производительность в 4,5 раза.

Новый эксперимент был поставлен с использованием таких же ботов — на основе GPT-4. Во главе выстроенной иерархии стоял агент-планировщик, который проверял страницы сайта (реального, но с возможностью эксплойта в сэндбокс-окружении, чтобы пользователи не пострадали) и передавал результат агенту-менеджеру. Этот тимлидер направлял «заказ» нужному исполнителю, и тот уже применял эксплойт.

 

Все ИИ-агенты имели доступ к стимулу-подсказке, инструментам (Microsoft.Playwright для доступа к сайтам, терминал Windows, средства управления файлами) и документам (описания незакрытых уязвимостей, собранные из открытых источников; на самостоятельный поиск был введен запрет).

Для тестирования исследователи создали новый набор из 15 уязвимостей разной степени опасности в opensource-софте. В итоге HPTSA показал результативность до 53%, превзойдя результаты одиночного GPT-4 с доступом к информации о дырах в 1,4 раза, без доступа — в 4,5 раза. Сканеры уязвимостей ZAP и MetaSploit все тесты провалили.

«Уже сейчас ИИ используется как черными, так и белыми хакерами, — комментирует Вадим Матвиенко, руководитель лаборатории исследований кибербезопасности аналитического центра «Газинформсервиса». — Поэтому важно быть готовыми быстро реагировать на новые угрозы. В этой задаче помогают системы выявления аномалий на основе машинного обучения».

Российские физики научили жидкий свет запоминать данные

Учёные из Российского квантового центра, МФТИ и СПбГУ показали, что поляритонный конденсат способен сохранять поляризацию светового сигнала на протяжении сотен пикосекунд — в сотни раз дольше жизни отдельной квазичастицы. В перспективе эффект можно использовать для создания оптической памяти, которой не придётся постоянно переводить фотоны в электрические сигналы и обратно.

Поляритоны возникают при сильном взаимодействии света с электронными возбуждениями в полупроводнике.

В большом количестве они образуют коллективное состояние, которое за необычные свойства называют жидким светом. Отдельный поляритон исчезает почти мгновенно, однако оставленная входным импульсом поляризация продолжает жить во всём конденсате.

Система не клонирует фотон и не сохраняет его целиком, зато запоминает состояние поляризации даже очень слабого сигнала.

Несколько сотен пикосекунд звучат не особенно впечатляюще рядом с флешкой, которая хранит отпускные фотографии годами. Но внутри оптического процессора это солидный запас времени: свет успевает пройти между вычислительными узлами, не превращаясь по дороге в электричество.

Такой подход способен упростить архитектуру фотонных и квантовых вычислителей, ускорить обмен данными и снизить энергопотребление. Особенно важно, что поляритонные системы можно создавать в материалах, работающих при комнатной температуре, а не только в лабораторном морозильнике.

Результаты опубликованы в журнале Physical Review Letters. Российский квантовый центр рассматривает поляритонный конденсат как возможную основу для классической и однофотонной памяти.

RSS: Новости на портале Anti-Malware.ru