77% корпоративных пользователей вставляют личные данные в запросы к ChatGPT

77% корпоративных пользователей вставляют личные данные в запросы к ChatGPT

77% корпоративных пользователей вставляют личные данные в запросы к ChatGPT

Согласно новому исследованию компании LayerX, всё больше сотрудников корпораций отправляют в ChatGPT личные и платёжные данные — от номеров карт до информации, по которой можно идентифицировать человека. И нередко делают это с личных, незащищённых аккаунтов, что превращает ИИ-инструменты в потенциальный канал утечки данных.

Отчёт Enterprise AI and SaaS Data Security 2025 отмечает, что 45% сотрудников компаний уже используют генеративный ИИ, а 77% из них копируют и вставляют данные прямо в запросы к чат-ботам. Более чем в 20% случаев среди этих данных встречается персональная или платёжная информация.

LayerX фиксирует такие взаимодействия через корпоративное браузерное расширение, которое отслеживает активность в веб-приложениях. По его данным, 82% всех вставок происходят из личных, неуправляемых аккаунтов, что делает их полностью невидимыми для систем безопасности компании.

Руководитель LayerX Ор Эшед в комментарии для The Register напомнил, что подобные инциденты уже случались: например, в 2023 году Samsung временно запретила сотрудникам пользоваться ChatGPT после того, как один из них случайно загрузил в чат фрагменты внутреннего кода.

По словам Эшеда, такие утечки могут не только повлечь нарушения регламентов, но и вызвать геополитические риски — если данные попадают в зарубежные ИИ-модели, включая китайские.

Интересно, что при этом ChatGPT стал де-факто стандартом корпоративного ИИ. По данным LayerX, более 90% сотрудников, использующих ИИ, обращаются именно к ChatGPT. Для сравнения: Google Gemini используют 15%, Claude — 5%, а Microsoft Copilot — всего 2–3%.

Сама Microsoft недавно удивила многих, заявив, что поддержит использование личных Copilot-аккаунтов в корпоративных средах Microsoft 365 — фактически легализуя «теневые» ИТ-практики, когда сотрудники пользуются неофициальными инструментами.

В целом использование генеративного ИИ в корпоративных сетях растёт: сейчас такие сервисы занимают около 11% всего трафика приложений — почти столько же, сколько почта и онлайн-встречи (по 20%), и больше, чем Slack или Salesforce.

Эксперты LayerX предупреждают: пока пользователи массово несут данные в ChatGPT, CISO-командам стоит уделить внимание SSO и централизованной аутентификации. Без этого контролировать потоки данных и предотвратить утечки становится почти невозможно.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Яндекс Маркет внедрил ИИ для ускоренного выявления контрафакта

Яндекс Маркет запустил систему машинного обучения, которая автоматически обрабатывает жалобы покупателей на подозрение в контрафакте. Теперь первичная проверка обращений происходит без участия сотрудников — ИИ анализирует сообщение, определяет его смысл и формирует сводку по продавцу, если подобных жалоб несколько.

Раньше такие обращения разбирали вручную, что занимало заметно больше времени.

Теперь алгоритм сортирует сообщений в несколько раз больше за тот же период и передаёт итоговый отчёт сотруднику службы контроля качества. Специалист уже принимает окончательное решение — скрывать товар, ограничивать работу магазина или применять другие меры.

В компании отмечают, что благодаря комплексному подходу количество жалоб на контрафакт продолжает снижаться: от общего числа заказов оно сейчас составляет около 0,08%.

По словам представителей Яндекс Маркета, новая система помогает быстрее выявлять проблемных продавцов и уменьшает операционные затраты, поскольку часть рутинной работы теперь выполняют алгоритмы.

Напомним, сервисы Яндекса утром 24 ноября работали с перебоями. Судя по сообщениям, проблемы затронули сразу несколько направлений: часть сайтов и сервисов, размещённых в Yandex Cloud, оказались недоступны, а у некоторых пользователей не проходит оплата в «Яндекс Такси».

Нас в Anti-Malware.ru это тоже не обошло стороной. Долгое время сотрудники наблюдали ошибку 504 на своих сайтах anti-malware.ru и amlive.ru.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru