Google усилила контроль над исследованиями с щекотливыми темами

Google усилила контроль над исследованиями с щекотливыми темами

Google усилила контроль над исследованиями с щекотливыми темами

Судя по внутренним документам, попавшим в руки журналистов, в компании Google введен дополнительный уровень контроля над научными публикациями, способными пошатнуть ее репутацию.  Проводимые в Google исследования нередко поднимают вопросы этического или политического характера, и позиция авторов при этом бывает нелицеприятной.

Закручивание гаек в цензуре началось вскоре после увольнения Тимнит Гебру (Timnit Gebru),  руководителя исследований Google по вопросам этики интеграции искусственного интеллекта в программные продукты. В своей работе автор поставила под сомнение объективность алгоритмов ИИ, а также заявила, что подобные средства имитации речи создадут проблемы для маргинализованных слоев населения.

Последние годы Google, по данным Reuters, активно внедряет ИИ в свои сервисы, используя эту технологию для интерпретации сложных поисковых запросов, принятия решений по рекомендациям на YouTube и автозаполнения предложений в письмах пользователей Gmail.

Перекосы в таких Google-сервисах, согласно новой политике компании, являются «деликатным» вопросом, наряду с такими темами, как сбор данных геолокации, персонализация веб-контента, безопасность жилища, беспилотные автомобили, страхование, религия, COVID-19, добыча нефти, взаимоотношения с Китаем, Израилем и Ираном.

В ходе интервью исследователи из Google отметили, что им настоятельно рекомендовано подавать материалы в «позитивном ключе» и подвергнуть их дополнительному аудиту на наличие «дезинформации, предвзятых или несправедливых заключений», а также субъективности в подборе содержимого, способной привести к поляризации мнений. Более того, новый уклад компании расширяет возможность вмешательства сверху на заключительных этапах работы исследователей.

Комментируя нововведения Google, журналисты не преминули отметить, что на своем сайте компания во всеуслышание утверждает, что ее исследователи пользуются «значительной» свободой. Усиление цензуры, по мнению «Рейтер», в данном случае излишне: все научные публикации и без того достаточно тщательно просеиваются, проходя через советы по этике, армии рецензентов и другие привычные этапы оценки.

К сожалению, таковы издержки проведения исследований под крылом крупной компании. Если у нее достаточно большой авторитет в определенной сфере, она неизбежно будет пытаться пресечь публикации работ, способных ущемить ее интересы. Так, помимо Google технологии ИИ ныне активно продвигают такие гиганты ИТ-индустрии, как Facebook, Apple и Microsoft, и у них тоже есть причины опасаться критики в свой адрес.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Начался суд над руководителями Департамента цифрового развития Росгвардии

Московский гарнизонный суд приступил к рассмотрению уголовного дела в отношении бывшего руководителя департамента цифрового развития и защиты информации Росгвардии Михаила Варенцова и начальника Главного центра информационных технологий по инженерно-техническому обеспечению Николая Чепкасова.

Николай Чепкасов был задержан 20 марта, а Михаил Варенцов — более чем месяц спустя. Изначально им вменялось мошенничество в особо крупном размере, однако подробности тогда не раскрывались.

Как сообщает «Коммерсантъ», в ходе первого судебного заседания квалификация обвинения была изменена. Теперь Варенцову и Чепкасову инкриминируют пункты «в», «г», «е» ч. 3 ст. 286 УК РФ — превышение должностных полномочий, совершённое группой лиц, из корыстных побуждений и повлекшее тяжкие последствия.

Изменилась и мера пресечения. Первоначально оба фигуранта находились под стражей, однако позднее Варенцова перевели под запрет определённых действий в связи с необходимостью лечения, а Чепкасова — под домашний арест.

По версии следствия, обвиняемые подписали акты приёмки программного обеспечения, которое не соответствовало требованиям государственных контрактов. Речь идёт о нескольких соглашениях с НИИ «Восход» на создание систем для федеральной платформы контроля оборота оружия и управления охранными услугами (ФПКО СПО ГИС). Кроме того, в их компетенции находилось оснащение подразделений Росгвардии профильным оборудованием.

«Приёмка была произведена на основании формальной проверки в эмуляторе, не подтверждающей способность ФПКО реально функционировать в операционной среде заказчика», — приводит издание слова представителя обвинения.

Следующее заседание по делу назначено на 8 декабря.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru