APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

В Google фиксируют попытки использования Gemini для повышения эффективности целевых атак. По данным аналитиков, с ИИ-ассистентом взаимодействуют с разной степенью успеха APT-группы из 20+ стран, в том числе России.

Такие шпионы в основном обращаются к Gemini в поисках информации о потенциальных мишенях, публикаций об уязвимостях, способов сокрытия нежелательной активности, а также пытаются с помощью ИИ корректировать вредоносные коды и создавать / локализовать контент для своих ловушек.

Для обхода защиты ИИ-инструмента от злоупотреблений в основном используются публичные джейлбрейки либо переформулировка запросов. Случаев применения инъекции стимула с этой целью пока не наблюдалось.

Исследователи также зафиксировали безуспешные попытки заставить Gemini провести реверс-инжиниринг средств защиты (EDR) и слить информацию о его инфраструктуре и системах.

На настоящий момент умного помощника от Google опробовали APT-группы из двух десятков стран — в основном китайские (более 20 группировок), иранские (более 10) и северокорейские (9). Отметились также три российские ОПГ.

Аналогичным злоупотреблениям подвергается также ChatGPT, его разработчик OpenAI подтвердил это. Такая же участь, и с большим успехом, может в скором времени постигнуть новомодный DeepSeek, защита которого оказалась намного слабее.

Roblox начал работать в России после договорённостей с Минцифры

Похоже, Roblox действительно возвращается в Россию. О том, что игровая платформа снова начала работать без ограничений, сообщила глава Лиги безопасного интернета Екатерина Мизулина.

«Мои подписчики говорят, что Roblox начал работать без ограничений», — написала она в своём телеграм-канале.

Новость появилась буквально через день после того, как Минцифры и Роскомнадзор сообщили о договорённостях с компанией. Российские власти заявили, что получили от Roblox гарантии по усилению защиты несовершеннолетних пользователей и после этого обратились в правоохранительные органы с просьбой поддержать снятие ограничений с платформы.

Переговоры между российской стороной и Roblox завершились в начале июня. По итогам консультаций компания признала, что существующие механизмы модерации и защиты детей работали недостаточно эффективно.

Речь шла о случаях распространения материалов, связанных с суицидальным поведением, наркотиками и вовлечением подростков в противоправную деятельность.

В ответ Roblox пообещала внедрить дополнительные меры безопасности. Уже в июне на платформе должны появиться возрастные категории Roblox Kids и Roblox Select, которые будут ограничивать доступ к играм в зависимости от возраста пользователя.

Кроме того, компания подтвердила готовность активнее бороться с контентом, который может нанести вред здоровью и развитию детей.

В Минцифры ранее подчёркивали, что Россия готова поддерживать работу международных цифровых платформ, если они соблюдают требования российского законодательства и обеспечивают защиту пользователей.

Напомним, доступ к Roblox был ограничен в конце 2025 года. Тогда причиной назывались систематические нарушения требований по удалению запрещённого контента и недостаточно эффективная работа механизмов модерации.

Если информация о полном восстановлении доступа подтвердится окончательно, Roblox станет одним из немногих крупных зарубежных цифровых сервисов, которому удалось договориться с российскими регуляторами и вернуться в привычный режим работы.

RSS: Новости на портале Anti-Malware.ru