8,5% подсказок ИИ сливают ключи доступа и финансовые данные компаний

8,5% подсказок ИИ сливают ключи доступа и финансовые данные компаний

8,5% подсказок ИИ сливают ключи доступа и финансовые данные компаний

Проведенное в Harmonic Security исследование показало, что при вводе подсказок корпоративные пользователи ИИ-сервисов могут случайно слить конфиденциальные данные, в том числе финансовую информацию, ключи доступа и код проприетарного программного обеспечения.

В IV квартале 2024 года эксперты тщательно мониторили использование бизнесом Microsoft Copilot, ChatGPT, Google Gemini, Claude от Anthropic и Perplexity. За этот период были изучены тысячи посказок-стимулов, которыми сотрудники предприятий пользовались в ходе работы с инструментами на основе генеративного ИИ.

В подавляющем большинстве случаев юзеры решали простые задачи: резюмировали текст, редактировали блог-записи, оформляли документацию по кодам. Тем не менее 8,5% зафиксированных подсказок исследователи идентифицировали как угрозу утечки важных данных.

В 45,8% случаев такой ввод содержал клиентские данные — сведения об оплате счетов, идентификаторы для доступа к сервисам. Более четверти потенциально опасных подсказок (26,8%) раскрывали информацию о сотрудниках, в том числе расходы по зарплатам, послужные списки, персональные данные.

Умному бизнес-помощнику также могут неумышленно слить юридическую и финансовую информацию (процесс продаж, портфель инвестиций, сделки M&A), связанные с безопасностью сведения (результаты пентестов, конфигурация сети, отчеты об инцидентах), критические важные коды (ключи доступа, исходники проприетарного ПО).

 

«В большинстве случаев организации справляются с подобным сливом, блокируя запросы либо предупреждая пользователей о потенциальной опасности совершаемых действий, — комментирует гендиректор Harmonic Аластер Патерсон (Alastair Paterson). — Однако не все пока располагают такими возможностями. Беспокоит также большое количество бесплатных подписок».

Бесплатные ИИ-инструменты обычно хуже защищены, чем корпоративные версии. К тому же их пользовательское соглашение обычно предусматривает использование пользовательского ввода для тренинга, и риск утечки конфиденциальных данных для бизнеса в этом случае очевиден.

Согласно результатам исследования, сотрудники предприятий отдают предпочтение бесплатным подпискам на ИИ-услуги.

 

Эксперты не советуют прибегать к блокировкам, чтобы снизить риски. По их мнению, лучше управлять использованием ИИ, придерживаясь следующих рекомендаций:

  • мониторинг ввода данных в реальном времени;
  • использование платного доступа либо сервисов, не обучающих свои модели на пользовательском вводе;
  • визуальный контроль данных, которыми юзеры делятся с ИИ-инструментами, со стороны ИБ-служб;
  • ранжирование конфиденциальных данных по степени ущерба в случае потери;
  • создание правил использования ИИ с дифференциацией департаментов и групп;
  • обучение персонала ответственному использованию ИИ, с объяснением рисков.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Pornhub просит Apple и Google перейти к проверке возраста на устройствах

Pornhub и его материнская компания Aylo обратились сразу к трём гигантам — Apple, Google и Microsoft — с призывом поддержать новую модель возрастной проверки не на уровне сайтов, а прямо на устройствах. В Aylo утверждают: нынешний подход, когда возраст проверяют каждый отдельный сайт и сторонние сервисы, почти не работает.

Как выяснили в WIRED, письма были отправлены на фоне ужесточения законов в США и Великобритании, где всё чаще требуют загружать документы и подтверждать возраст перед просмотром контента для взрослых.

По их словам, это неудобно, небезопасно и не выполняет главную задачу — не пускать детей ко взрослому контенту. Компания предлагает иной вариант: устройство один раз подтверждает возраст владельца, а затем безопасно передаёт сигнал API всем сервисам, которые запрашивают такую информацию.

Поводом для диалога стали последствия законов о проверке возраста. Pornhub уже столкнулся с огромной потерей трафика — до 80 процентов — после того, как вышел из большинства штатов США, где требуют загрузки ID.

Похожая ситуация и в Великобритании: после вступления в силу Online Safety Act сайт потерял почти столько же аудитории. Aylo говорит, что пользователи просто уходят на нерегулируемые ресурсы, где нет ни проверки возраста, ни стандартов безопасности.

Представители Pornhub считают, что передача личных данных сторонним сервисам — риск для конфиденциальности, а государственный контроль за тысячами платформ объективно невозможен. Они подчеркивают, массовые законы не работают: люди легко обходят проверки через VPN или переходят на сайты без ограничений.

Тем временем крупные техкомпании реагируют осторожно. Google заявляет, что развивает собственные инструменты age assurance и напоминает: приложения для взрослых всё равно запрещены в Google Play. Microsoft ссылается на недавние рекомендации, где делается акцент на проверках именно на уровне сервисов. Apple указывает на существующие родительские настройки и политику детских аккаунтов, но пока не предлагает универсального механизма API для всех сайтов.

Ситуация развивается на фоне глобального ужесточения правил защиты детей в интернете. В США всё чаще говорят о политической подоплёке происходящего: по словам экспертов, часть инициатив исходит от религиозных групп, добивающихся фактической цензуры контента для взрослых.

Тем не менее Aylo утверждает, что индустрия вовсе не против регулирования — наоборот, она хочет единых и работающих правил. В компании считают, что каждое устройство по умолчанию должно быть «детским», пока владелец не подтвердит, что он взрослый. Такой механизм, уверены в Pornhub, позволит одновременно защитить несовершеннолетних и не превращать интернет в систему с постоянными запросами документов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru