MITRE совместно с Nvidia создают суперкомпьютер с искусственным интеллектом

MITRE совместно с Nvidia создают суперкомпьютер с искусственным интеллектом

MITRE совместно с Nvidia создают суперкомпьютер с искусственным интеллектом

Аналитический центр MITRE совместно с популярным производителем чипов Nvidia создают суперкомпьютер, который оценивается в 20 миллионов долларов, для ускорения процесса внедрения ИИ в федеральное правительство США. «Песочница» с искусственным интеллектом позволит тестировать передовые технологии.

MITRE является некоммерческой исследовательской организацией, которая работает в США и финансируется из федерального бюджета.

Она является ключевым поставщиком Пентагона и американских разведывательных служб, снабжая солдат и шпионов необычными техническими продуктами. В зону интересов MITRE входят: ИИ, кибербезопасность, квантовая информатика, космическая безопасность и другое.

По словам Чарльза Клэнси, старшего вице-президента MITRE, искусственный интеллект поможет сделать правительство более эффективным, так как оно давно забюрократизировано, а на выполнение различных задач уходит много времени.

Данный проект связывают с подписанным в октябре Байденом указом, который предписывает ускорить процесс исследования и внедрения ИИ среди федеральных служб.

MITRE был создан в 1958 году на базе лаборатории Массачусетского технологического института и является частью сети научно-исследовательских центров, финансируемых Пентагоном. В нём работает около 9000 человек, а его прибыль на 2022 год составила 2,2 миллиарда долларов. На разработки ИИ уходит половина выделяемых средств.

Бывший руководитель MITRE сообщил журналу Forbes, что центр работает над такими проектами, как прототип инструмента для взлома смарт-часов и программное обеспечение для ФБР, позволяющее снимать отпечатки пальцев с фотографий рук подозреваемых в социальных сетях.

Предполагается, что суперкомпьютер MITRE запустят в конце этого года, а базироваться он будет в Эшберне, штат Вирджиния. Клэнси рассказал, что новый продукт будет работать на 256 графических процессорах Nvidia стоимостью 20 миллионов долларов, и все федеральные агентства, участвующие в финансировании MITRE, смогут использовать эту «песочницу» ИИ.

Nvidia находится на пике бума искусственного интеллекта, а работа над данным проектом стала особо успешна. Чипмейкер из Калифорнии является мировым лидером в разработке графических процессоров, используемых для обучения продвинутых моделей ИИ, а их чипы скупаются по всему миру с бешеной скоростью. В сравнении с прошлым годом цена на акции компании выросла на 200 процентов.

Вице-президент по федеральным вопросам Nvidia Энтони Роббинс заявил, что суперкомпьютер может помочь правительству США в решении задач, связанных с защитой инфраструктуры от кибератак, борьбой с мошенничеством, а также с внедрением чат-ботов и цифровых помощников.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Вредонос PROMPTFLUX обращается к ИИ Gemini, чтобы менять свой код

Google сообщила о новой экспериментальной вредоносной программе, использующей искусственный интеллект для изменения собственного кода и сокрытия в целевой системе. Речь идет о PROMPTFLUX — вредоносном скрипте на VB Script, который взаимодействует с API Gemini, запрашивая у модели варианты обфускации и обхода антивирусных систем.

Как пояснили специалисты из Google Threat Intelligence Group (GTIG), PROMPTFLUX обращается к Gemini 1.5 Flash (и более поздним версиям), чтобы получать обновлённый код, способный обойти сигнатурное обнаружение.

Вредоносный скрипт использует встроенный API-ключ для отправки запросов напрямую к API Gemini и сохраняет новые версии в папке автозагрузки Windows.

Интересно, что внутри скрипта есть функция саморегенерации — AttemptToUpdateSelf. Хотя она закомментирована и неактивна, наличие логов взаимодействия с ИИ в файле thinking_robot_log.txt говорит о том, что авторы планируют создать «саморазвивающийся» вредоносный код.

 

Google отмечает, что существует несколько вариаций PROMPTFLUX, и в одной из них ИИ получает задачу полностью переписывать код скрипта каждый час. Однако на данный момент программа находится на стадии разработки и не способна заражать устройства. Судя по всему, за проектом стоит группа с финансовой мотивацией, а не государственные хакеры.

Некоторые эксперты, впрочем, считают, что история преувеличена. Исследователь Марк Хатчинс (Marcus Hutchins) заявил, что PROMPTFLUX не демонстрирует реальных признаков «умного» поведения:

«Модель Gemini не знает, как обходить антивирусы. Кроме того, код не имеет механизмов, гарантирующих уникальность или стабильность работы. А функция модификации кода даже не используется».

Тем не менее специалисты Google предупреждают, что злоумышленники активно экспериментируют с использованием ИИ не только для автоматизации задач, но и для создания вредоносных инструментов, которые способны адаптироваться «на лету».

Среди других примеров ИИ-вредоносов, обнаруженных Google, упоминаются:

  • FRUITSHELL — обратная оболочка на PowerShell, обученная обходить системы на основе LLM;
  • PROMPTLOCK — кросс-платформенный вымогатель на Go, использующий LLM для генерации вредоносных скриптов на Lua;
  • PROMPTSTEAL (LAMEHUG) — инструмент, применявшийся группировкой APT28 для атак на Украину;
  • QUIETVAULT — JavaScript-зловред, крадущий токены GitHub и NPM.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru