Сотрудники Google протестуют против контракта Пентагона

Сотрудники Google протестуют против контракта Пентагона

Прошло почти три месяца с тех пор, как общественность и сотрудники Google узнали о решении компании использовать искусственный интеллект в спорной военной пилотной программе Project Maven, направленной на ускорение анализа отснятого материала, используя автоматическую классификацию изображений объектов и людей. Сейчас около десяти сотрудников Google подают в отставку в знак протеста против продолжения участия компании в этом проекте.

Разочарования сотрудников варьируются от конкретных этических соображений по поводу использования искусственного интеллекта в беспилотных войнах до более широких забот о политических решениях Google и эрозии доверия пользователей, которая может быть результатом этих действий. Многие из них написали заявления о своем решении покинуть компанию, а их рассказы были собраны и распространены во внутреннем документе.

Сотрудники, которые уходят в отставку в знак протеста, говорят, что руководители стали менее прозрачными в спорных бизнес-решениях и менее заинтересованы в том, чтобы слушать возражения сотрудников. В случае с Maven Google помогает Министерству обороны внедрять машинное обучение для классификации изображений, собранных беспилотными летательными аппаратами. Но некоторые сотрудники считают, что люди, а не алгоритмы, несут ответственность за эту чувствительную и потенциально опасную работу, и что Google вообще не должен участвовать в работе с министерством обороны.

Исторически Google продвигала открытую культуру, которая побуждает сотрудников бросать вызов и обсуждать решения о продуктах. Но некоторые сотрудники считают, что их руководство больше не так внимательно относится к их проблемам, оставляя их перед лицом последствий.

В дополнение к отставкам почти 4 000 сотрудников Google заявили о своей оппозиции проекту Maven во внутреннем ходатайстве, которое просит Google немедленно отменить контракт и разработать политику в отношении возможного сотрудничества с военными.

Тем не менее, растущее давление со стороны сотрудников, похоже, мало повлияло на решение Google - компания защитила свою работу над Maven и считается одним из ведущих претендентов на другой крупный контракт на облачные вычисления в Пентагоне, совместную инфраструктуру защиты предприятий, лучше известный как JEDI.

Google подчеркнул, что его ИИ не используется, чтобы убивать, но использование искусственного интеллекта в беспилотной программе Пентагона по-прежнему вызывает сложные этические и моральные проблемы для программистов и ученых, изучающих область машинного обучения.

Сегодня более 90 ученых в области искусственного интеллекта, этики и информатики опубликовали письмо, в котором содержится призыв к Google прекратить работу над проектом Maven и поддержать международный договор, запрещающий автономные системы оружия. Питер Асаро и Люси Сучман, два из авторов письма, засвидетельствовали перед Организацией Объединенных Наций об автономном оружии; третий автор, Лилли Ирини, профессор и бывший сотрудник Google.

 

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Авторы трояна Trickbot совершенствуют защиту веб-инжектов

Анализ новейших образцов Trickbot, проведенный в IBM Trusteer, показал, что у трояна-долгожителя появилась дополнительная защита от обнаружения и анализа. Нововведения по большей части направлены на сокрытие кражи данных в рамках банковского фрода.

Модульный троян Trickbot объявился в интернете шесть лет назад и вначале работал, как обычный банкер, — воровал информацию, облегчающую отъем денег со счетов жертв заражения. Зловред постоянно совершенствуется, пережил ряд попыток ликвидации и в последние годы в основном используется как загрузчик других вредоносных программ.

Банковские трояны обычно осуществляют перехват финансовой информации посредством атаки man-in-the-browser (MitB) во время веб-сессии жертвы. При этом они используют веб-инжекты — скрипты, способные на лету подменять передаваемые данные.

Внедряемый код, как правило, хранится локально в конфигурационном файле зловреда; Trickbot, как оказалось, может также подгружать его в реальном времени со своего сервера. Таким образом, злоумышленники сразу убивают двух зайцев: упрощают себе замену веб-инжектов и осложняют выявление банков-мишеней для исследователей.

 

Используемый трояном JavaScript-загрузчик тоже претерпел изменения; теперь он запрашивает инжекты с C2 по защищенным каналам (HTTPS). Сами MitB-скрипты сильно обфусцированы — закодированы по Base64 и заполнены мусором, строки зашифрованы и перепутаны, имена переменных, функций и аргументов изменены.

В код Trickbot были также добавлены функции борьбы с дебагом; механизм реализован в виде JavaScript-сценария и позволяет выявить присутствие отладчика. Обнаружив попытку анализа, зловред провоцирует перегрузку по памяти, влекущую отказ браузера.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru