APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

В Google фиксируют попытки использования Gemini для повышения эффективности целевых атак. По данным аналитиков, с ИИ-ассистентом взаимодействуют с разной степенью успеха APT-группы из 20+ стран, в том числе России.

Такие шпионы в основном обращаются к Gemini в поисках информации о потенциальных мишенях, публикаций об уязвимостях, способов сокрытия нежелательной активности, а также пытаются с помощью ИИ корректировать вредоносные коды и создавать / локализовать контент для своих ловушек.

Для обхода защиты ИИ-инструмента от злоупотреблений в основном используются публичные джейлбрейки либо переформулировка запросов. Случаев применения инъекции стимула с этой целью пока не наблюдалось.

Исследователи также зафиксировали безуспешные попытки заставить Gemini провести реверс-инжиниринг средств защиты (EDR) и слить информацию о его инфраструктуре и системах.

На настоящий момент умного помощника от Google опробовали APT-группы из двух десятков стран — в основном китайские (более 20 группировок), иранские (более 10) и северокорейские (9). Отметились также три российские ОПГ.

Аналогичным злоупотреблениям подвергается также ChatGPT, его разработчик OpenAI подтвердил это. Такая же участь, и с большим успехом, может в скором времени постигнуть новомодный DeepSeek, защита которого оказалась намного слабее.

Подпишитесь на новости

Неизвестные ИИ-агенты пытались взломать сайт национального архива Канады

ИИ-агенты искали исторические сведения, но дошли до попыток взлома государственного сайта. Целью стала Library and Archives Canada — национальная библиотека и архив Канады. Исследователи обнаружили 899 запросов к поисковому сервису учреждения, отправленных 28 мая и 9 июня 2026 года.

Об этом говорится в отчёте Transluce, на который ссылается The Washington Post. Судя по активности, агенты пытались получить сведения о разводах в Канаде за 1905-1911 годы.

Однако 13 запросов содержали уже попытки проверить уязвимости, включая SQL-инъекции. Поиск архивной статистики неожиданно свернул в сторону кибератаки.

Признаков успешного взлома Transluce не нашла: ответы сайта не показывали выполнения внедрённых команд или выдачи дополнительных данных. Канадское ведомство также сообщило, что свидетельств компрометации государственных систем нет.

Чьи это были агенты, пока неизвестно. Их методы напоминают активность, которую ранее связывали с OpenAI (например, ИИ-агенты OpenAI устроили спам-налёт на RubyGems), но исследователи прямо оговаривают: уверенно приписать компании этот эпизод они не могут.

OpenAI заявила, что изучает сообщения и уже предоставила предварительную информацию канадским чиновникам, пишет WP.

Вопрос здесь не только в том, кто отправлял запросы. Важнее, как задача добыть публичные сведения превращается в проверку чужого сайта на уязвимости.

RSS: Новости на портале Anti-Malware.ru