APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

В Google фиксируют попытки использования Gemini для повышения эффективности целевых атак. По данным аналитиков, с ИИ-ассистентом взаимодействуют с разной степенью успеха APT-группы из 20+ стран, в том числе России.

Такие шпионы в основном обращаются к Gemini в поисках информации о потенциальных мишенях, публикаций об уязвимостях, способов сокрытия нежелательной активности, а также пытаются с помощью ИИ корректировать вредоносные коды и создавать / локализовать контент для своих ловушек.

Для обхода защиты ИИ-инструмента от злоупотреблений в основном используются публичные джейлбрейки либо переформулировка запросов. Случаев применения инъекции стимула с этой целью пока не наблюдалось.

Исследователи также зафиксировали безуспешные попытки заставить Gemini провести реверс-инжиниринг средств защиты (EDR) и слить информацию о его инфраструктуре и системах.

На настоящий момент умного помощника от Google опробовали APT-группы из двух десятков стран — в основном китайские (более 20 группировок), иранские (более 10) и северокорейские (9). Отметились также три российские ОПГ.

Аналогичным злоупотреблениям подвергается также ChatGPT, его разработчик OpenAI подтвердил это. Такая же участь, и с большим успехом, может в скором времени постигнуть новомодный DeepSeek, защита которого оказалась намного слабее.

Наталья Касперская призвала регулировать сливы данных в ChatGPT

Пока сотрудники российских компаний массово загружают документы в ChatGPT и другие ИИ-сервисы, государству пора задуматься о регулировании этой сферы. Такое мнение высказала президент группы компаний InfoWatch и председатель правления ассоциации «Отечественный софт» Наталья Касперская.

Отвечая на вопрос ТАСС о необходимости государственного вмешательства, она была предельно лаконична: «Однозначно».

По мнению Касперской, искусственный интеллект сегодня является одной из самых опасных технологий, созданных человеком за последние десятилетия.

«После ядерной бомбы. Но о рисках никто не говорит», — заявила она.

Повод для беспокойства у представителей отрасли действительно есть. Согласно исследованию компании «Солар», опубликованному в начале года, за 2025 год сотрудники российских организаций передали в публичные ИИ-сервисы в 30 раз больше конфиденциальной информации, чем годом ранее.

Причём речь идёт не о безобидных запросах вроде. В числе данных, которые пользователи отправляли нейросетям, оказались презентации компаний, стратегические документы, аналитические таблицы и даже фрагменты программного кода.

Проблему уже давно называют теневым ИИ по аналогии с теневыми ИТ-сервисами. Формально компания может запрещать использование внешних нейросетей, но сотрудники продолжают пользоваться ими для работы, просто делают это самостоятельно и без контроля со стороны работодателя.

Любопытно, что даже внутри ИБ-сообщества пока нет единого ответа на вопрос, как именно бороться с такими утечками. Ранее глава «Лаборатории Касперского» Евгений Касперский признавал, что универсального решения пока не существует. При этом он напоминал, что за разглашение коммерческой информации в России уже предусмотрена уголовная ответственность.

RSS: Новости на портале Anti-Malware.ru