152-ФЗ и нейросети: какие данные нельзя бездумно отдавать ChatGPT

152-ФЗ и нейросети: какие данные нельзя бездумно отдавать ChatGPT

152-ФЗ и нейросети: какие данные нельзя бездумно отдавать ChatGPT

Пока компании массово подключают ChatGPT, Claude, DeepSeek и другие LLM к работе с договорами, тикетами, CRM и корпоративной почтой, многие забывают об одной неприятной детали: вместе с документами в нейросети часто отправляются персональные данные. А значит, в игру вступает 152-ФЗ.

Пользователь Хабра под ником lnk опубликовал подробный разбор того, как российское законодательство смотрит на использование ИИ при обработке данных клиентов, сотрудников и контрагентов.

По его словам, проблема возникает гораздо раньше, чем многие думают. Персональными данными могут считаться не только ФИО, телефоны и паспортные данные, но и ИНН физлица, который сам по себе позволяет идентифицировать человека.

Даже данные из открытых источников вроде ЕГРЮЛ не перестают быть персональными данными только потому, что они опубликованы в интернете.

Автор обращает внимание, что отправка таких данных в зарубежные ИИ-сервисы автоматически поднимает вопросы трансграничной передачи данных. При этом главная проблема, по его мнению, даже не уведомления Роскомнадзора, а отсутствие договора поручения на обработку персональных данных с большинством зарубежных поставщиков LLM.

В качестве относительно безопасных вариантов он называет использование российских облачных платформ с соответствующими договорами либо развёртывание моделей в собственном контуре компании. Ещё один путь — предварительное обезличивание данных перед отправкой в модель.

Отдельно автор подчёркивает, что простая замена имён на идентификаторы вроде user_123 не всегда решает проблему. Если связь между токеном и человеком можно восстановить, такие данные всё ещё могут считаться персональными.

Chrome-расширения с ИИ оказались опасной точкой входа для атак

Любите ИИ-помощников прямо в браузере? Тогда есть неприятные новости. Исследователи из Rebora Security Research обнаружили критические уязвимости сразу в двух популярных расширениях для Chrome — SiderAI и MaxAI. В сумме эти инструменты установлены более чем на 10 миллионах устройств.

Бреши получили собственные имена — Spyder и MaXSS. И звучат они почти так же неприятно, как работают.

Оба расширения используют глубокую интеграцию с браузером. Именно поэтому они могут пересказывать статьи, отвечать на вопросы по содержимому страниц и выполнять другие ИИ-задачи. Но та же самая интеграция неожиданно превратилась в огромную дыру в безопасности.

В случае с MaxAI исследователи обнаружили уязвимость MaXSS. Оказалось, что расширение доверяет сообщениям от посещаемых сайтов практически без проверки. В результате злоумышленники могут заставить его выполнять различные действия от имени пользователя: открывать скрытые вкладки, делать снимки экрана, получать доступ к конфиденциальным данным и даже перехватывать активные сессии.

 

У SiderAI ситуация не лучше. Уязвимость Spyder позволяет злоумышленникам имитировать действия пользователя на сайтах, создавать поддельные клики и ввод текста. По данным исследователей, атакующие могут получить доступ к истории ИИ-диалогов жертвы и незаметно отправить эти данные на внешние серверы.

Самое неприятное — для атаки пользователю не нужно ничего скачивать или подтверждать. Достаточно просто зайти на специально подготовленный сайт. Дальше всё происходит автоматически и практически незаметно.

Эксперты предупреждают, что последствия могут быть крайне серьёзными: от утечки личной информации и корпоративных данных до полного захвата учётных записей.

Проблема затрагивает не только Google Chrome. Под угрозой находятся практически все браузеры на базе Chromium, включая Microsoft Edge, Opera, Brave и другие.

На момент публикации разработчики SiderAI и MaxAI ещё не выпустили исправления. Поэтому исследователи рекомендуют пользователям временно удалить оба расширения и внимательно проверить список установленных браузерных дополнений.

RSS: Новости на портале Anti-Malware.ru