8,5% подсказок ИИ сливают ключи доступа и финансовые данные компаний

8,5% подсказок ИИ сливают ключи доступа и финансовые данные компаний

8,5% подсказок ИИ сливают ключи доступа и финансовые данные компаний

Проведенное в Harmonic Security исследование показало, что при вводе подсказок корпоративные пользователи ИИ-сервисов могут случайно слить конфиденциальные данные, в том числе финансовую информацию, ключи доступа и код проприетарного программного обеспечения.

В IV квартале 2024 года эксперты тщательно мониторили использование бизнесом Microsoft Copilot, ChatGPT, Google Gemini, Claude от Anthropic и Perplexity. За этот период были изучены тысячи посказок-стимулов, которыми сотрудники предприятий пользовались в ходе работы с инструментами на основе генеративного ИИ.

В подавляющем большинстве случаев юзеры решали простые задачи: резюмировали текст, редактировали блог-записи, оформляли документацию по кодам. Тем не менее 8,5% зафиксированных подсказок исследователи идентифицировали как угрозу утечки важных данных.

В 45,8% случаев такой ввод содержал клиентские данные — сведения об оплате счетов, идентификаторы для доступа к сервисам. Более четверти потенциально опасных подсказок (26,8%) раскрывали информацию о сотрудниках, в том числе расходы по зарплатам, послужные списки, персональные данные.

Умному бизнес-помощнику также могут неумышленно слить юридическую и финансовую информацию (процесс продаж, портфель инвестиций, сделки M&A), связанные с безопасностью сведения (результаты пентестов, конфигурация сети, отчеты об инцидентах), критические важные коды (ключи доступа, исходники проприетарного ПО).

 

«В большинстве случаев организации справляются с подобным сливом, блокируя запросы либо предупреждая пользователей о потенциальной опасности совершаемых действий, — комментирует гендиректор Harmonic Аластер Патерсон (Alastair Paterson). — Однако не все пока располагают такими возможностями. Беспокоит также большое количество бесплатных подписок».

Бесплатные ИИ-инструменты обычно хуже защищены, чем корпоративные версии. К тому же их пользовательское соглашение обычно предусматривает использование пользовательского ввода для тренинга, и риск утечки конфиденциальных данных для бизнеса в этом случае очевиден.

Согласно результатам исследования, сотрудники предприятий отдают предпочтение бесплатным подпискам на ИИ-услуги.

 

Эксперты не советуют прибегать к блокировкам, чтобы снизить риски. По их мнению, лучше управлять использованием ИИ, придерживаясь следующих рекомендаций:

  • мониторинг ввода данных в реальном времени;
  • использование платного доступа либо сервисов, не обучающих свои модели на пользовательском вводе;
  • визуальный контроль данных, которыми юзеры делятся с ИИ-инструментами, со стороны ИБ-служб;
  • ранжирование конфиденциальных данных по степени ущерба в случае потери;
  • создание правил использования ИИ с дифференциацией департаментов и групп;
  • обучение персонала ответственному использованию ИИ, с объяснением рисков.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ГК Солар увеличил выручку до 12,8 млрд рублей за девять месяцев 2025 года

Группа компаний «Солар» опубликовала финансовые итоги за девять месяцев 2025 года. По данным управленческого учёта, выручка компании выросла на 16% по сравнению с аналогичным периодом прошлого года и достигла 12,8 млрд рублей. Главный рост обеспечило продуктовое направление: продажи решений в сфере ИБ увеличились на 46%, до 2,9 млрд рублей.

Доля продуктов в общей выручке выросла с 18% до 22%. Наиболее заметный вклад внесли системы Solar Dozor (DLP) и Solar appScreener (SAST), которые укрепляют позиции в инфраструктуре заказчиков.

Выручка от сервисов кибербезопасности составила 10 млрд рублей, что на 10% выше уровня прошлого года. При этом показатель OIBDA снизился на 29%, до 1,1 млрд рублей, а рентабельность упала с 14,5% до 8,9%. В компании объясняют это сезонностью рынка и ростом расходов на персонал.

По словам генерального директора Игоря Ляпунова, «Солар» сохраняет устойчивые темпы роста даже на фоне сложной экономической ситуации и роста киберугроз. Он отметил, что в третьем квартале специалисты зафиксировали крупнейшую DDoS-атаку мощностью 2,2 Тбит/с, что в восемь раз превысило прежний рекорд.

В отчётном периоде «Солар» продолжил развитие ключевых направлений. Компания приобрела 90% в разработчике Hexway, занимающемся решениями для безопасной разработки софта, и заключила ряд партнёрств, включая Почту России, Positive Technologies, «Лабораторию Касперского» и PROF-IT GROUP.

Среди технологических новинок — обновлённые версии Solar Dozor, Solar NGFW, Solar inRights и CyberMir, запуск решений Solar DNS Radar для анализа DNS-трафика и Retainer для подписки на реагирование на инциденты.

Также компания развивает продукты и сервисы для малого и среднего бизнеса — например, предоставила им доступ к коммерческому центру противодействия кибератакам Solar JSOC и запустила бесплатную защиту от DDoS-атак для небольших сайтов и самозанятых.

В сфере образования «Солар» расширил программу обучения специалистов SOC и выпустил исследование о состоянии рынка ИБ-образования в России. По оценке компании, объём потребления ИБ-сервисов в сегменте МСП может вырасти с 15 млрд рублей в год до 35–37 млрд рублей к 2030 году.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru