Разработчики Google против разработки систем безопасности для Пентагона

Разработчики Google против разработки систем безопасности для Пентагона

Разработчики Google против разработки систем безопасности для Пентагона

Группа разработчиков Google отказалась работать над передовой функцией безопасности, известной как «физическая изоляция» (air gap, «воздушный зазор»). Предполагается, что эта разработка помогла бы корпорации заключить военные контракты.

Взгляды интернет-гиганта и некоторых разработчиков на реализацию этой функции разошлись — сотрудники посчитали, что Google не должна помогать правительству вести войну. Выслушав эти возражения, Урс Хельзле, главный технический директор Google, заявил, что внедрение air gap будет отложено.

Этот акт бунта быстро распространился и среди других сотрудников компании, что поставило под угрозу многомиллионные правительственные контракты. Разработчиков окрестили «Group of Nine» («Группа девяти»).

В итоге эта форма протеста вылилась в отказ руководства компании от выгодного контракта с Пентагоном под названием Project Maven.

На данный момент непонятно, отказалась ли корпорация от реализации «физической изоляции» или же она все еще планирует и дальше продолжат разработки, невзирая на возражения сотрудников. Учитывая то, что эту функцию не так трудно реализовать, Google легко может нанять других инженеров для работы над ней.

В настоящий момент 4 000 сотрудников (примерно 5 % от общего штата корпорации) подписали петицию против Project Maven. Пресс-секретарь компании отказался от комментариев.

Минцифры создаст полигон для тестирования систем с ИИ на безопасность

Минцифры планирует создать киберполигон для тестирования систем с искусственным интеллектом (ИИ) на безопасность. В первую очередь речь идёт о решениях, предназначенных для применения на объектах критической инфраструктуры, а также о системах с функцией принятия решений.

О том, что министерство ведёт работу над созданием такого полигона, сообщил РБК со ссылкой на несколько источников.

Площадка будет использоваться для тестирования ИИ-систем, которые в дальнейшем должны пройти сертификацию ФСТЭК и ФСБ России. Это предусмотрено правительственным законопроектом «О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти, и внесении изменений в отдельные законодательные акты».

Документ вводит четыре уровня критичности ИИ-систем:

  • минимальный — влияние на безопасность отсутствует или минимально;
  • ограниченный;
  • высокий — относится к системам, используемым на объектах критической информационной инфраструктуры;
  • критический — системы, способные угрожать жизни и здоровью людей или безопасности государства, а также автономные комплексы, принимающие самостоятельные решения.

Определять уровень критичности будет Национальный центр искусственного интеллекта в сфере госуправления при правительстве. Эта же структура займётся ведением реестра сертифицированных ИИ-систем.

Конкретные требования к сертификации планируется закрепить в отдельных нормативных документах, которые пока находятся в разработке. На текущем этапе единственным обязательным условием является включение программного обеспечения в реестр Минцифры.

По данным «Российской газеты», распространять новые требования на коммерческие ИИ-решения не планируется. При этом в аппарате первого вице-премьера Дмитрия Григоренко пояснили, что ключевая цель законопроекта — снизить риски применения ИИ в сферах с высокой ценой ошибки, включая здравоохранение, судопроизводство, общественную безопасность и образование.

RSS: Новости на портале Anti-Malware.ru