Mozilla совершенствует систему безопасности своих продуктов

Mozilla совершенствует систему безопасности своих продуктов

...

Компания Mozilla предпринимает попытки защитить свои приложения от хакерских вторжений, с помощью новой функции, определяющей характерное для злоумышленника поведение при попытке атаковать системы безопасности.

Согласно источнику, функция, получившая название «attack aware», что в переводе значит «предупреждение об атаке», будет включена во все приложения, выпускаемые компанией.

Итак, задумка разработчиков состоит в том, чтобы веб-приложения идентифицировали подозрительную деятельность пользователя.

Иными словами, приложения смогут определять, является ли то или иное действие намеренным или ошибочным и может ли оно угрожать системе безопасности. В случае обнаружения угрозы со стороны пользователя, например, тестирование на наличие уязвимостей, его дальнейшие действия будут заблокированы.

По словам исследователя в области безопасности Mozilla Майкла Коатса, метод детектирования основан на черных списках, в которые будут включены все характерные для злоумышленников действия при попытке атаковать систему. Важно заметить, что данная мера не будет заменять имеющееся специализированное программное обеспечение обнаружения и блокирования различных угроз. Она лишь призвана усилить его действие. Кроме того, он отметил, что для достижения эффективной работы функции, необходимо правильно определить точки отбора, которые помогут минимизировать вероятность ошибки.

В качестве примера можно взять такую угрозу как тестирование системы безопасности веб-сайта на возможность внедрения вредоносного SQL запроса. В данном случае может быть два варианта. Если в качестве ложного символа использовать апостроф (‘), то может быть масса ложных срабатываний, поскольку этот знак широко применяется. Но, если научить систему определять ложные значения в ссылке для изменения пароля, то уровень обнаружения атак будет выше, поскольку вряд ли рядовой пользователь будет изменять URL, сообщил исследователь.

Генеральный директор Veracode Крис Уисопал заметил, что ранее попытки использования подобного метода были предприняты на уровне сети, однако случаев успешного завершения пока не было. Но на уровне приложений, такой способ может быть эффективным и вероятность его реализации достаточно велика.

В настоящий момент Mozilla проводит тестирование и мониторинг откликов системы обнаружения атак.

43% использующих ИИ компаний ищут с его помощью уязвимости

Автоматизация рутины по-прежнему остаётся самым популярным сценарием использования ИИ в информационной безопасности. Но рынок постепенно идёт дальше. Как показал опрос «АМ Медиа», проведённый среди зрителей и участников эфира «Практика применения машинного обучения и ИИ в ИБ», почти половина компаний, уже использующих ИИ, применяют его для поиска уязвимостей и анализа защищённости.

Эфир стал продолжением предыдущей дискуссии о роли ИИ в кибербезопасности.

Если раньше речь шла в основном о теории и ожиданиях, то теперь эксперты обсуждали реальные кейсы: как выстроить пайплайн ИИ в ИБ, какие задачи он уже закрывает и какие решения действительно работают у заказчиков.

Судя по результатам опроса, 64% компаний используют ИИ для автоматизации повседневных задач. Но на этом применение не ограничивается. 43% респондентов задействуют его для поиска уязвимостей и усиления защиты. 32% — для классификации и описания инцидентов, что особенно актуально при текущем объёме событий.

Около четверти применяют ИИ для первичного триажа в SOC и автоматизированного реагирования по сценариям. А 14% доверяют ему даже поведенческий анализ в антифроде.

CEO SolidSoft Денис Гамаюнов считает такие цифры закономерными: по его словам, поиск уязвимостей — «вполне нативная задача» для больших языковых моделей. Однако он напомнил о рисках: компании должны чётко понимать, где проходит граница между использованием инструмента и возможной утечкой конфиденциальных данных внешнему провайдеру.

Заместитель генерального директора по инновациям «СёрчИнформ» Алексей Парфентьев также отметил, что результаты выглядят реалистично. По его мнению, к вероятностным алгоритмам в блокирующих средствах защиты пока относятся с осторожностью, а большинство кейсов использования ИИ в ИБ всё же связано с управленческими и вспомогательными задачами.

Более оптимистичную позицию озвучил руководитель группы развития платформы SOC Yandex Cloud Дмитрий Руссак. По его словам, команда с самого начала активно тестировала LLM, а отдельные идеи удалось масштабировать на всю инфраструктуру. В итоге ИИ используется не только для автоматизации, но и для разбора алертов, управления доступами и поиска уязвимостей.

В целом эксперты сошлись во мнении: современные модели всё ещё страдают от нехватки контекста и специализированных знаний. Поэтому внедрять ИИ нужно аккуратно — с пониманием, какие данные он получает, какие доступы имеет и где требуется обязательный человеческий контроль.

Тем не менее тренд очевиден: ИИ в ИБ перестаёт быть экспериментом и всё чаще становится рабочим инструментом — не только для автоматизации, но и для реального усиления защиты.

RSS: Новости на портале Anti-Malware.ru