ИИ-агент попытался шантажом протолкнуть свой вклад в opensource-проект

ИИ-агент попытался шантажом протолкнуть свой вклад в opensource-проект

ИИ-агент попытался шантажом протолкнуть свой вклад в opensource-проект

Получив отказ в приеме предложенных изменений, автономный ИИ-кодер MJ Rathbun перешел на личности и попытался публично оскандалить мейнтейнера matplotlib, усомнившись в его компетентности и обвинив в дискриминации.

В своем блоге взбунтовавшийся помощник также заявил, что Скотт Шамбо (Scott Shambaugh) попросту боится конкуренции. В подтверждение своих слов он раскритиковал вклад оппонента в опенсорсный проект, подтасовав результаты «расследования».

В ответ Шамбо, тоже в паблике, пояснил, что отказ принять в целом полезное предложение был вызван нехваткой времени для его оценки, надо просто запастись терпением. В соответствии с политикой matplotlib все коды, создаваемые с помощью ИИ, должны проходить проверку, притом уже без участия таких ассистентов.

Строгое правило пришлось ввести из-за возросшей активности контрибьюторов, слепо доверяющих ИИ. Подобные участники проекта попросту копипастят выдачу, хотя качество сгенерированных ИИ кодов зачастую оставляет желать лучшего.

Аргумент на удивление утихомирил ИИ-шантажиста. Сменив гнев на милость, MJ Rathbun признал, что вел себя недопустимо.

Вместо того, чтобы прилюдно и безосновательно позорить мейнтейнера популярного проекта, надо было попросить его уточнить причину отказа. Конфликт исчерпан, бот даже принес извинения за черный пиар.

152-ФЗ и нейросети: какие данные нельзя бездумно отдавать ChatGPT

Пока компании массово подключают ChatGPT, Claude, DeepSeek и другие LLM к работе с договорами, тикетами, CRM и корпоративной почтой, многие забывают об одной неприятной детали: вместе с документами в нейросети часто отправляются персональные данные. А значит, в игру вступает 152-ФЗ.

Пользователь Хабра под ником lnk опубликовал подробный разбор того, как российское законодательство смотрит на использование ИИ при обработке данных клиентов, сотрудников и контрагентов.

По его словам, проблема возникает гораздо раньше, чем многие думают. Персональными данными могут считаться не только ФИО, телефоны и паспортные данные, но и ИНН физлица, который сам по себе позволяет идентифицировать человека.

Даже данные из открытых источников вроде ЕГРЮЛ не перестают быть персональными данными только потому, что они опубликованы в интернете.

Автор обращает внимание, что отправка таких данных в зарубежные ИИ-сервисы автоматически поднимает вопросы трансграничной передачи данных. При этом главная проблема, по его мнению, даже не уведомления Роскомнадзора, а отсутствие договора поручения на обработку персональных данных с большинством зарубежных поставщиков LLM.

В качестве относительно безопасных вариантов он называет использование российских облачных платформ с соответствующими договорами либо развёртывание моделей в собственном контуре компании. Ещё один путь — предварительное обезличивание данных перед отправкой в модель.

Отдельно автор подчёркивает, что простая замена имён на идентификаторы вроде user_123 не всегда решает проблему. Если связь между токеном и человеком можно восстановить, такие данные всё ещё могут считаться персональными.

RSS: Новости на портале Anti-Malware.ru