APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

В Google фиксируют попытки использования Gemini для повышения эффективности целевых атак. По данным аналитиков, с ИИ-ассистентом взаимодействуют с разной степенью успеха APT-группы из 20+ стран, в том числе России.

Такие шпионы в основном обращаются к Gemini в поисках информации о потенциальных мишенях, публикаций об уязвимостях, способов сокрытия нежелательной активности, а также пытаются с помощью ИИ корректировать вредоносные коды и создавать / локализовать контент для своих ловушек.

Для обхода защиты ИИ-инструмента от злоупотреблений в основном используются публичные джейлбрейки либо переформулировка запросов. Случаев применения инъекции стимула с этой целью пока не наблюдалось.

Исследователи также зафиксировали безуспешные попытки заставить Gemini провести реверс-инжиниринг средств защиты (EDR) и слить информацию о его инфраструктуре и системах.

На настоящий момент умного помощника от Google опробовали APT-группы из двух десятков стран — в основном китайские (более 20 группировок), иранские (более 10) и северокорейские (9). Отметились также три российские ОПГ.

Аналогичным злоупотреблениям подвергается также ChatGPT, его разработчик OpenAI подтвердил это. Такая же участь, и с большим успехом, может в скором времени постигнуть новомодный DeepSeek, защита которого оказалась намного слабее.

Подпишитесь на новости

WhatsApp вводит родительский контроль для подростков

Разработчики WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) внедрили новые инструменты родительского контроля. Семьи смогут управлять настройками приватности, группами, каналами, статусами и доступом к Meta (корпорация Meta признана экстремистской и запрещена в России) AI. При этом читать личную переписку подростка родители не смогут. Функции добровольные: настроить их предлагается вместе с подростком.

Родители смогут выбрать, кто видит его фото профиля и кто может добавлять его в группы.

Захочется ослабить ограничения — понадобится родительский ПИН-код. Просто вернуть всё обратно в настройках уже не выйдет.

Также родителям будут приходить уведомления, когда подросток вступает в группу, выходит из неё или число участников заметно увеличивается. Отдельные настройки позволят определить использование каналов, доступные для просмотра статусы и аудиторию собственных публикаций.

Добрались и до нейросети. Для Meta AI можно выбрать стандартный режим 13+ либо более строгий Limited Content с ограничениями контента. Подробный перечень этих ограничений в анонсе не раскрывается.

Все настройки защищены одним ПИН-кодом. Родители смогут менять их или полностью отключать. Личные сообщения и звонки, по заявлению WhatsApp, останутся защищены сквозным шифрованием: родительский контроль не превращается в пропуск к чужим разговорам.

Компания обещает развивать инструменты поэтапно с учётом отзывов семей.

RSS: Новости на портале Anti-Malware.ru