Mozilla совершенствует систему безопасности своих продуктов

Mozilla совершенствует систему безопасности своих продуктов

...

Компания Mozilla предпринимает попытки защитить свои приложения от хакерских вторжений, с помощью новой функции, определяющей характерное для злоумышленника поведение при попытке атаковать системы безопасности.

Согласно источнику, функция, получившая название «attack aware», что в переводе значит «предупреждение об атаке», будет включена во все приложения, выпускаемые компанией.

Итак, задумка разработчиков состоит в том, чтобы веб-приложения идентифицировали подозрительную деятельность пользователя.

Иными словами, приложения смогут определять, является ли то или иное действие намеренным или ошибочным и может ли оно угрожать системе безопасности. В случае обнаружения угрозы со стороны пользователя, например, тестирование на наличие уязвимостей, его дальнейшие действия будут заблокированы.

По словам исследователя в области безопасности Mozilla Майкла Коатса, метод детектирования основан на черных списках, в которые будут включены все характерные для злоумышленников действия при попытке атаковать систему. Важно заметить, что данная мера не будет заменять имеющееся специализированное программное обеспечение обнаружения и блокирования различных угроз. Она лишь призвана усилить его действие. Кроме того, он отметил, что для достижения эффективной работы функции, необходимо правильно определить точки отбора, которые помогут минимизировать вероятность ошибки.

В качестве примера можно взять такую угрозу как тестирование системы безопасности веб-сайта на возможность внедрения вредоносного SQL запроса. В данном случае может быть два варианта. Если в качестве ложного символа использовать апостроф (‘), то может быть масса ложных срабатываний, поскольку этот знак широко применяется. Но, если научить систему определять ложные значения в ссылке для изменения пароля, то уровень обнаружения атак будет выше, поскольку вряд ли рядовой пользователь будет изменять URL, сообщил исследователь.

Генеральный директор Veracode Крис Уисопал заметил, что ранее попытки использования подобного метода были предприняты на уровне сети, однако случаев успешного завершения пока не было. Но на уровне приложений, такой способ может быть эффективным и вероятность его реализации достаточно велика.

В настоящий момент Mozilla проводит тестирование и мониторинг откликов системы обнаружения атак.

Нейросеть как цифровой костыль: учёные предупредили об ослаблении мышления

Активное использование искусственного интеллекта может постепенно ослаблять навыки, которые человек передаёт нейросети. К такому выводу пришли исследователи из университетов Ватерлоо, Торонто и Пердью. Впрочем, отправлять ChatGPT на костёр рано: проблема не в самом ИИ, а в привычке использовать его вместо собственной головы.

Учёные называют этот процесс когнитивной разгрузкой. Человек поручает внешнему инструменту запоминать информацию, искать решения и выстраивать рассуждения.

Результат появляется быстрее, но мозг получает меньше практики. Если так продолжается долго, самостоятельно выполнить знакомую задачу становится сложнее.

Показательный эксперимент провели почти с тысячей школьников, изучавших математику. Во время тренировок обычный помощник на базе GPT-4 улучшил их результаты на 48%.


Однако после отключения нейросети ученики написали проверочную работу на 17% хуже группы, которая занималась без ИИ. Другой вариант ИИ-репетитора работал иначе: не выдавал готовое решение, а подталкивал школьников к самостоятельному ответу. В этом случае заметного ухудшения результатов не обнаружили.


Похожий эффект исследователи наблюдали у врачей, применявших ИИ для поиска аденом во время колоноскопии. После возвращения к работе без алгоритма эффективность специалистов снизилась: показатель выявления образований упал с 28,4 до 22,4%.

Особенно опасной такая зависимость может стать в профессиях, где необходимо самостоятельно принимать сложные решения. Чем больше работы забирает алгоритм, тем реже человек тренирует собственные навыки.


Отказываться от нейросетей авторы не предлагают. Безопаснее использовать их для подсказок, объяснений, обратной связи и проверки собственных выводов.

RSS: Новости на портале Anti-Malware.ru