Google усилила контроль над исследованиями с щекотливыми темами

Google усилила контроль над исследованиями с щекотливыми темами

Судя по внутренним документам, попавшим в руки журналистов, в компании Google введен дополнительный уровень контроля над научными публикациями, способными пошатнуть ее репутацию.  Проводимые в Google исследования нередко поднимают вопросы этического или политического характера, и позиция авторов при этом бывает нелицеприятной.

Закручивание гаек в цензуре началось вскоре после увольнения Тимнит Гебру (Timnit Gebru),  руководителя исследований Google по вопросам этики интеграции искусственного интеллекта в программные продукты. В своей работе автор поставила под сомнение объективность алгоритмов ИИ, а также заявила, что подобные средства имитации речи создадут проблемы для маргинализованных слоев населения.

Последние годы Google, по данным Reuters, активно внедряет ИИ в свои сервисы, используя эту технологию для интерпретации сложных поисковых запросов, принятия решений по рекомендациям на YouTube и автозаполнения предложений в письмах пользователей Gmail.

Перекосы в таких Google-сервисах, согласно новой политике компании, являются «деликатным» вопросом, наряду с такими темами, как сбор данных геолокации, персонализация веб-контента, безопасность жилища, беспилотные автомобили, страхование, религия, COVID-19, добыча нефти, взаимоотношения с Китаем, Израилем и Ираном.

В ходе интервью исследователи из Google отметили, что им настоятельно рекомендовано подавать материалы в «позитивном ключе» и подвергнуть их дополнительному аудиту на наличие «дезинформации, предвзятых или несправедливых заключений», а также субъективности в подборе содержимого, способной привести к поляризации мнений. Более того, новый уклад компании расширяет возможность вмешательства сверху на заключительных этапах работы исследователей.

Комментируя нововведения Google, журналисты не преминули отметить, что на своем сайте компания во всеуслышание утверждает, что ее исследователи пользуются «значительной» свободой. Усиление цензуры, по мнению «Рейтер», в данном случае излишне: все научные публикации и без того достаточно тщательно просеиваются, проходя через советы по этике, армии рецензентов и другие привычные этапы оценки.

К сожалению, таковы издержки проведения исследований под крылом крупной компании. Если у нее достаточно большой авторитет в определенной сфере, она неизбежно будет пытаться пресечь публикации работ, способных ущемить ее интересы. Так, помимо Google технологии ИИ ныне активно продвигают такие гиганты ИТ-индустрии, как Facebook, Apple и Microsoft, и у них тоже есть причины опасаться критики в свой адрес.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Эксперт запустил сайт, на котором собраны уязвимости в коде вредоносов

Исследователь в области кибербезопасности Джон Пейдж запустил специальный веб-ресурс, на котором собраны уязвимости в коде популярных семейств вредоносных программ. Пейдж выразил надежду, что другие специалисты будут пользоваться информацией о багах для нейтрализации и удаления зловредов со скомпрометированных хостов.

Новый сайт получил имя «MalVuln», его можно посетить по адресу malvuln.com. Сам ресурс очень похож на аналогичные площадки, где выкладываются и сортируются уязвимости в коде. В случае проекта Пейджа там присутствуют имена уязвимых вредоносных программ, технические описания уязвимостей, а также содержится код эксплойтов.

По словам самого создателя MalVuln, он поднял сайт от скуки за время самоизоляции, к которой многих вынудила коронавирусная инфекция COVID-19. При этом Пейдж отметил, что ранее ничего подобного не было, поэтому его проект можно считать в какой-то степени уникальным.

В настоящее время MalVuln насчитывает 45 уязвимостей, часть которых содержится в актуальных и действующих вредоносах. Однако на ресурсе Пейджа перечислены бреши и в старых семействах (например, Bayrob).

Специалист просит обратить внимание, что на сегодняшний день на сайте размещены только те уязвимости, о которых знал он. Однако в будущем сторонние эксперты смогут сообщать о других багах вредоносных программ.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru