PromptLock стал первым вымогателем с применением технологий ИИ

PromptLock стал первым вымогателем с применением технологий ИИ

PromptLock стал первым вымогателем с применением технологий ИИ

Исследователи из ESET рассказали о появлении необычного образца вредоноса — это первая известная программа-вымогатель, которая использует искусственный интеллект для локальных операций. Новый софт получил название PromptLock.

Он написан на Go и задействует открытую языковую модель GPT-OSS:20b — её можно запускать без ограничений со стороны вендора.

По сути, внутри зашиты промпты, которые позволяют вредоносу генерировать Lua-скрипты прямо на ходу. Эти скрипты умеют сканировать файловую систему, проверять содержимое, выгружать данные и даже шифровать их.

Для шифрования используется алгоритм SPECK (128 бит). Работает это как в Windows, так и в Linux — благодаря кросс-платформенным скриптам.

При этом ESET подчёркивает: перед нами пока только концепт, а не реальный боевой инструмент. Для атаки нужно, чтобы на машине жертвы был запущен Ollama API — локальный сервер для работы с моделью. А это серьёзное требование к ресурсам, которое в «обычной» инфраструктуре встречается редко.

Кроме того, у злоумышленников должно совпасть несколько условий: слабая сегментация сети, отсутствие защитных правил для промптов, открытый трафик к портам и протоколам LLM.

Пока что разрушительные функции в PromptLock не реализованы, и в реальных кибератаках его не видели. Но сам факт появления подобного кода говорит о новом этапе эволюции зловредов. ESET прямо пишет: важно не паниковать, а готовиться.

«Рост ИИ-вредоносов открывает новую главу в кибербезопасности. Мы делимся находкой, чтобы вызвать дискуссию и подтолкнуть отрасль к исследованиям и готовности», — заявили специалисты.

Удалили Google API-ключ? Плохие новости: он может жить ещё 23 минуты

Исследователи из Aikido обнаружили неприятную особенность Google API-ключей: после удаления они могут продолжать работать до 23 минут. Сценарий простой. Ключ утёк, разработчик в панике бежит его удалять, выдыхает — вроде всё, опасность миновала. Но нет.

По данным Aikido, удаление ключа распространяется по инфраструктуре Google не мгновенно: одни серверы начинают отклонять запросы почти сразу, другие продолжают принимать их ещё десятки минут.

В тестах исследователи создавали API-ключ, удаляли его и затем отправляли по 3-5 авторизованных запросов в секунду, пока ответы не переставали проходить. Среднее окно составляло около 16 минут, максимум — почти 23 минуты. В отдельные минуты более 90% запросов всё ещё успешно проходили.

Если у ключа был доступ к Gemini, злоумышленник за это время может не только накрутить счёт за использование моделей, но и вытащить загруженные файлы или закешированный контекст.

Проблема особенно болезненна на фоне новой биллинговой политики Google. Как пишет The Register, у некоторых пользователей лимиты расходов могут автоматически подниматься: например, с 250 до 100 тыс. долларов, если аккаунт старше 30 дней и уже потратил больше 1 тыс. долларов за всё время.

СМИ уже писали о случаях, когда украденные Google API-ключи приводили к пятизначным счетам за считаные минуты. В трёх известных случаях Google вернула разработчикам в общей сложности 154 тыс. долларов, но это, мягко говоря, не тот пользовательский опыт, который хочется повторять.

Самое весёлое — Google, по словам Aikido, не планирует исправлять 23-минутное окно. Компания закрыла отчёт как «Won’t Fix», объяснив, что задержка из-за распространения удаления ключей работает как задумано. Отличная формулировка; ключ уже удалён, деньги ещё списываются, всё по плану.

RSS: Новости на портале Anti-Malware.ru