Искусственный интеллект будет использован для проведения кибератак

Искусственный интеллект будет использован для проведения кибератак

Искусственный интеллект будет использован для проведения кибератак

Недавнее исследование в области информационной безопасности, проведенное Cylance, показало, что многие эксперты считают, что искусственный интеллект скоро будет использован для проведения кибератак.

Около 62% экспертов в области безопасности считают, что искусственный интеллект (ИИ) в течение года будет использоваться для проведения различного вида кибератак. Об этом говорят результаты опроса, проведенного Cylance и опубликованного во вторник.

«С одной стороны ИИ может способствовать урегулированию волн киберпреступлений, однако он может также использоваться для создания более совершенной схемы атак» - говорится в сообщении.

Результаты опроса представляют следующую картину: 62% экспертов, то есть большинство, считает, что ИИ будет использоваться в преступных целях; 32% заявили, что до сих пор для такого развития событий не было никаких возможностей; а 6% просто не сформировали свое мнение.

Cylance также отметила, что применение ИИ в качестве своеобразного оружия никак не отразится на тех защитных функциях, которые он выполняет.

Еще одна тема, освещенная в опросе Cylance – ликвидация двух онлайн-рынков темной сети, AlphaBay и Hansa. Несмотря на то, что такие площадки часто используются для продажи эксплойтов, 79% респондентов не считают, что их закрытие замедлит распространения вредоносных программ.

Что касается стратегий и процессов кибербезопасности, то обновление ОС было главной проблемой, о которой говорили 39% респондентов. Организации же, согласно отчету, сталкиваются со следующими проблемами: фишинг (36%), критические атаки инфраструктуры (33%), атаки на IoT (15%), атаки с использованием передовых средств (14%) и бот-сети (1% ).

Опрос Cylance также затронул основные проблемы безопасности, с которыми сталкивается США - Россия заняла первое место (34%), за ней идет киберпреступность (33%), Китай занял третье место с 20%, опередив Северную Корею на 11%, а Иран последнее место с 2%.

ScanFactory выходит на рынок ИИ-фаерволов с решением Prizma

ScanFactory представила новый продукт Prizma — решение для контроля и защиты корпоративной ИИ-инфраструктуры. Продукт позволяет компаниям безопасно использовать LLM и ИИ-агентов, контролируя данные, доступы, расходы и взаимодействие с внешними ИИ-сервисами.

Корпоративное использование искусственного интеллекта быстро растет: сотрудники подключают публичные LLM, команды внедряют ИИ-агентов и RAG-системы, а количество обращений к различным моделям увеличивается. Вместе с этим у компаний появляется новый класс рисков — от утечек конфиденциальных данных до неконтролируемого теневого AI.

Prizma работает как единая точка контроля между пользователями, корпоративными системами и ИИ-провайдерами. Решение анализирует запросы и ответы в реальном времени и позволяет централизованно управлять тем, как внутри компании используется искусственный интеллект.

Что умеет Prizma

Контролировать потребление токенов — учитывать использование моделей и расходы на ИИ у разных провайдеров из единой точки.

Защищать от AI-атак — выявлять и блокировать prompt injection и другие классы атак, включая угрозы из OWASP LLM Top 10.

Предотвращать утечки данных — находить и маскировать конфиденциальную информацию в запросах к ИИ и ответах моделей.

Автоматически блокировать опасные запросы на основе заданных политик безопасности.

Управлять ИИ-агентами с помощью ролевой модели и графа их взаимодействий.

Логировать и аудитировать обращения к ИИ, обеспечивая прозрачность использования моделей внутри компании.

Не только защита запросов

Отдельное внимание в Prizma уделено рискам, которые возникают при построении собственной ИИ-инфраструктуры.

Решение позволяет защищать RAG-системы, обнаруживая секреты и чувствительную информацию в используемых файлах, а также выявлять теневые AI — несанкционированное использование ИИ-сервисов внутри инфраструктуры компании.

Для критических сценариев предусмотрен kill switch на основе ролевой модели, позволяющий оперативно ограничить работу отдельных ИИ-агентов или цепочек взаимодействия.

Таким образом, Prizma формирует единый уровень безопасности между корпоративной инфраструктурой и ИИ — от публичных LLM до внутренних моделей, RAG-систем и автономных агентов.

С выходом Prizma ScanFactory расширяет направление кибербезопасности и выходит в новый для компании сегмент — защиту корпоративной ИИ-инфраструктуры.

Записаться на демонстрацию продукта и запросить сравнение по 83 пунктам можно по почте: info@sf-cloud.ru

Реклама, 18+. ООО «СканФэктори» ИНН 7727458406
ERID: 2Vfnxw2mxV1

RSS: Новости на портале Anti-Malware.ru