Хакеры могут начать применять искусственный интеллект

Хакеры могут начать применять искусственный интеллект

Хакеры могут начать применять искусственный интеллект

Технология искусственного интеллекта в скором времени может начать использоваться в хакерских атаках, считает главный технический директор группы QIWI Кирилл Ермаков. В последнее время различные ведомства, компании и банки по всему миру фиксируют усиление кибератак.

Недавние "нападения" вируса-шифровальщика WannaCry, а затем и вируса, получившего название ExPetr, показали уязвимость многих систем безопасности. В настоящее время бизнес стал все больше задумываться о необходимости совершенствования инфраструктуры для противодействия хакерским атакам, пишет ria.ru.

"С точки зрения трендов мы видим, к примеру, что искусственный интеллект начал успешно применяться для систем защиты. Что мы можем предсказать на будущее? Что скоро он начнет применяться для систем атаки", — Заявил Ермаков в интервью РИА Новости.

По его словам, в среднем для большой компании приемлемым для уровня защиты киберсистем является один инцидент с крупными потерями (свыше миллиона долларов) раз в три года.

"Это если присмотреться к открытым источникам. Но сколько инцидентов умалчивается?" — рассуждает эксперт.

"Вообще вся безопасность — это разговор про деньги. Специалисты стоят дорого. Программное обеспечение, которое необходимо создать самостоятельно или купить у разработчиков, стоит не меньше. И не стоит забывать, что внедрение усиленного контроля безопасности приводит к понижению эффективности бизнеса. Поэтому инвестиции надо рассчитывать очень и очень грамотно", — отметил Ермаков.

В ИИ-приложениях почти каждая третья уязвимость оказалась высокорисковой

ИИ-приложения снова напоминают: если к обычному веб-сервису прикрутить большую языковую модель, магия появляется не только в презентации, но и в списке уязвимостей. По данным «Информзащиты», в 2026 году 32% уязвимостей, найденных при пентестах ИИ- и LLM-приложений, относятся к высокорисковым.

Для сравнения: по всем классам активов этот показатель составляет около 12%. То есть риск-профиль ИИ-приложений оказался в 2,7 раза выше среднего.

За второй год наблюдений пропорция не изменилась. Более того, медианный срок устранения серьёзных находок вырос с 19 дней в 2025 году до 36 дней в 2026-м.

Проблема в том, что ИИ-системы тащат за собой сразу два слоя риска. Первый — классика веба и API: аутентификация, авторизация, инъекции, секреты, обработка пользовательского ввода.

Второй — уже нейросетевой зоопарк: инъекции в промпт, утечки системного промпта, ошибки RAG-контуров, отравление данных, небезопасная обработка ответов LLM, проблемы в векторных хранилищах и отказ в обслуживании на уровне модели.

Особенно весело становится, когда модель подключают к корпоративным данным, CRM, базе знаний, API или инструментам автоматизации. В этот момент чат-бот перестаёт быть просто болталкой и получает возможность влиять на процессы. А ошибка в правах или логике вызовов превращает его в аккуратную дверь во внутренние системы.

Автоматическими сканерами всё это ловится плохо. По данным исследования, 78% команд сталкивались с тем, что такие средства пропускали критические уязвимости. Поэтому готовность полностью доверить пентесты автономным инструментам за год упала с 29% до 9%.

С устранением тоже не праздник. В 2026 году компании закрывали только 38,4% высокорисковых находок в ИИ / LLM-приложениях — это самый низкий показатель среди типов тестирования. Для API, например, он составил 77,3%.

RSS: Новости на портале Anti-Malware.ru