Сотрудник: У Google есть данные моего деда, но он никогда не был в Сети

Сотрудник: У Google есть данные моего деда, но он никогда не был в Сети

Сотрудник: У Google есть данные моего деда, но он никогда не был в Сети

Джо Тоскано, консультант по проектированию, проработавший в Google до 2017 года, поделился неприятным опытом сбора данных, который практикует интернет-гигант.

Около двух лет назад Тоскано ушёл из Google из-за «разногласий на почве этики». Однако в этом году специалист открыл для себя неприятные нюансы, связанные со сбором корпорацией данных и отслеживанием пользователей в Сети.

Этим летом Тоскано зашёл в раздел «адреса» в браузере Chrome (chrome://settings/addresses). Экс-сотрудник обнаружил там данные, связывающие его с бабушкой по папиной линии.

При этом стоит учитывать, что у бабушки никогда не было доступа в интернет. Но Google тем не менее как-то связал двух родственников.

Но и это ещё не все. Поисковой гигант располагал информацией, связывающей Тоскано с ныне покойным дедушкой по маминой линии. В марте 2019 года этот человек ушёл из жизни, и у него также никогда не было доступа в Сеть.

Джо Тоскано очень насторожило такое положение дел. Несмотря на то, что бабушка с дедушкой никогда за свою жизнь не пользовались интернетом, Google располагал их точными физическими адресами и знал их средние имена.

«Я никогда не вводил эти данные сам, а также никто не вводил их с моего аккаунта. Тем не менее эта информация почему-то связана с моей учетной записью. Как это получилось?», — объясняет Тоскано.

«Единственная схема, которая мне приходит в голову: дедушка передал эти данные кому-то в реальной жизни, после чего на определённом этапе их продали Google. Однако тут возникает еще один вопрос: каким образом эти данные связали с моим аккаунтом?».

Но Тоскано не меньше волнует и ещё один нюанс — что Google знает об остальных его родственниках.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru