Многие уже успели убедиться в полезности общения с ИИ через запросы (промпты). На первый взгляд, процесс выглядит безопасным. Но путем инъекций в промпты злоумышленники могут компрометировать это взаимодействие. Как это может происходить? Какие варианты инъекций уже выделены в создаваемую классификацию угроз для ИИ?
SECURITY VISION NEXT GENERATION SOAR - РЕАГИРОВАНИЕ НОВОГО ПОКОЛЕНИЯ. УЗНАТЬ БОЛЬШЕ »»Реклама, ООО «Интеллектуальная безопасность», ИНН 7719435412, 16+
Акция! Пентесты с двойной выгодойВыявите уязвимости внешнего и внутреннего периметра с помощью пентестов. Внешний пентест выявит уязвимости, через которые хакеры могут атаковать. Внутренний — покажет, что они будут делать, когда проникнут в инфраструктуру. Предотвратить компрометацию поможет акция на 2 пентеста от «Солара».→ ОзнакомитьсяРеклама. ООО «РТК ИБ». ИНН 7704356648, 16+
Игорь Новиков14096
Статьи автора
2024 год стал знаменательным тем, что завершился этап бурного роста популярности генеративных моделей ИИ, уступивших лидерство в инновациях интерактивным моделям. Их преимущество — акцент на практическое применение ИИ. Но произошедший переход ознаменовался появлением и новых рисков для ИБ.
27.05.2025
Компания UserGate провела анализ российского рынка ИБ и начала реализацию планов по экосистемному расширению своих решений не только как периметра продуктов, но и ИБ услуг и образовательных проектов для заказчиков. Это стало темой для обсуждений на ежегодной конференции.
13.05.2025
Интервью автора
Дмитрий Кузеванов
Директор по информационной безопасности, руководитель центра мониторинга и реагирования (MRC) компании UserGate
Сергей Шерстобитов
Генеральный директор компании Angara Security
Денис Сивцов
Руководитель направления защиты сети на уровне L3–L4, компания DDoS-Guard