Разработчики Google против разработки систем безопасности для Пентагона

Разработчики Google против разработки систем безопасности для Пентагона

Разработчики Google против разработки систем безопасности для Пентагона

Группа разработчиков Google отказалась работать над передовой функцией безопасности, известной как «физическая изоляция» (air gap, «воздушный зазор»). Предполагается, что эта разработка помогла бы корпорации заключить военные контракты.

Взгляды интернет-гиганта и некоторых разработчиков на реализацию этой функции разошлись — сотрудники посчитали, что Google не должна помогать правительству вести войну. Выслушав эти возражения, Урс Хельзле, главный технический директор Google, заявил, что внедрение air gap будет отложено.

Этот акт бунта быстро распространился и среди других сотрудников компании, что поставило под угрозу многомиллионные правительственные контракты. Разработчиков окрестили «Group of Nine» («Группа девяти»).

В итоге эта форма протеста вылилась в отказ руководства компании от выгодного контракта с Пентагоном под названием Project Maven.

На данный момент непонятно, отказалась ли корпорация от реализации «физической изоляции» или же она все еще планирует и дальше продолжат разработки, невзирая на возражения сотрудников. Учитывая то, что эту функцию не так трудно реализовать, Google легко может нанять других инженеров для работы над ней.

В настоящий момент 4 000 сотрудников (примерно 5 % от общего штата корпорации) подписали петицию против Project Maven. Пресс-секретарь компании отказался от комментариев.

Бигтех в России просит открыть обезличенные данные граждан для обучения ИИ

Российскому ИИ не хватает данных, а закон, по мнению бигтеха, держит их под замком. Ассоциация больших данных, в которую входят «Авито», «Сбер», «Ростелеком», «Яндекс», HH и VK, попросила Минцифры упростить использование обезличенной персональной информации для разработки и обучения нейросетей.

Сейчас любое алгоритмическое преобразование персональных данных считается обезличиванием.

Даже если технология практически исключает возможность установить личность человека, полученный массив всё равно остаётся персональными данными со всеми сопутствующими ограничениями. Защита вроде бы сработала, а юридический хвост никуда не делся.

АБД, по данным КоммерсантЪ, предлагает выделить технологии повышения приватности — Privacy Enhancing Technologies, или PETs — в отдельную категорию. Они позволяют обрабатывать, передавать и хранить информацию без раскрытия личности. Если риск идентификации равен нулю или составляет малые доли процента, такие данные предлагается использовать для ИИ без согласия граждан.

Обработка при этом должна проходить в России, российскими компаниями и только для разработки, обучения и применения ИИ. Кроме того, ассоциация предлагает ввести доверенных посредников — аккредитованные организации, которые будут хранить обезличенные массивы и предоставлять к ним доступ. Данные также хотят разделить на бесплатные, необходимые для исполнения закона, и платные — для коммерческих задач.

Участники рынка объясняют инициативу просто: российских датасетов мало, а большая их часть заперта внутри крупных экосистем. Собственные и партнёрские массивы уже не закрывают аппетиты современных моделей, особенно специализированных корпоративных решений.

Альтернативой остаются синтетические данные — искусственно созданные наборы без сведений о реальных людях. Но полностью заменить ими отраслевую статистику, поведенческие закономерности и другие ценные выборки получится не всегда.

Теперь мяч у Минцифры, которое на обращение пока не ответило. Бигтех тем временем даёт понять: без свежих данных российский ИИ далеко не уедет, сколько вычислительных мощностей ему ни подбрасывай.

RSS: Новости на портале Anti-Malware.ru