APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

APT-группы опробуют Google Gemini как ИИ-помощника в проведении атак

В Google фиксируют попытки использования Gemini для повышения эффективности целевых атак. По данным аналитиков, с ИИ-ассистентом взаимодействуют с разной степенью успеха APT-группы из 20+ стран, в том числе России.

Такие шпионы в основном обращаются к Gemini в поисках информации о потенциальных мишенях, публикаций об уязвимостях, способов сокрытия нежелательной активности, а также пытаются с помощью ИИ корректировать вредоносные коды и создавать / локализовать контент для своих ловушек.

Для обхода защиты ИИ-инструмента от злоупотреблений в основном используются публичные джейлбрейки либо переформулировка запросов. Случаев применения инъекции стимула с этой целью пока не наблюдалось.

Исследователи также зафиксировали безуспешные попытки заставить Gemini провести реверс-инжиниринг средств защиты (EDR) и слить информацию о его инфраструктуре и системах.

На настоящий момент умного помощника от Google опробовали APT-группы из двух десятков стран — в основном китайские (более 20 группировок), иранские (более 10) и северокорейские (9). Отметились также три российские ОПГ.

Аналогичным злоупотреблениям подвергается также ChatGPT, его разработчик OpenAI подтвердил это. Такая же участь, и с большим успехом, может в скором времени постигнуть новомодный DeepSeek, защита которого оказалась намного слабее.

Минцифры не станет закрывать детям доступ к соцсетям

Никакого цифрового забора вокруг соцсетей для несовершеннолетних пока не будет. Минцифры заявило, что не планирует ограничивать детям доступ к таким площадкам. Дополнительную защиту на детских сим-картах смогут включать только родители (добровольно и с их согласия).

Такую возможность операторам предоставил второй пакет мер по борьбе с кибермошенничеством, принятый в июне. Его задача — не отобрать у ребёнка интернет, а сократить число способов, которыми мошенники добираются до несовершеннолетних.

Одна из предложенных мер запрещает отправлять на детские номера рекламные сообщения и СМС с кодами аутентификации в различных сервисах. Это должно осложнить кражу персональных данных и аккаунтов, а также их последующую продажу. Заодно злоумышленникам станет труднее использовать привычные приёмы социальной инженерии.

Исключение предусмотрено для государственных информационных систем. Например, СМС с кодом от Госуслуг продолжат приходить, поскольку там уже действует дополнительная защита: во время телефонного разговора код не отправляется. Схема «не кладите трубку и срочно назовите цифры» получает ещё одну палку в колёса.

При этом любые ограничения на детской сим-карте будут действовать исключительно по решению родителей. Само государство не собирается автоматически перекрывать несовершеннолетним соцсети или решать за каждую семью, какие сервисы ребёнку разрешено посещать.

В Минцифры подчёркивают, что детям требуется особая защита от киберпреступников, однако она должна учитывать права граждан и интересы пользователей.

RSS: Новости на портале Anti-Malware.ru