Сотрудники Google протестуют против контракта Пентагона

Сотрудники Google протестуют против контракта Пентагона

Прошло почти три месяца с тех пор, как общественность и сотрудники Google узнали о решении компании использовать искусственный интеллект в спорной военной пилотной программе Project Maven, направленной на ускорение анализа отснятого материала, используя автоматическую классификацию изображений объектов и людей. Сейчас около десяти сотрудников Google подают в отставку в знак протеста против продолжения участия компании в этом проекте.

Разочарования сотрудников варьируются от конкретных этических соображений по поводу использования искусственного интеллекта в беспилотных войнах до более широких забот о политических решениях Google и эрозии доверия пользователей, которая может быть результатом этих действий. Многие из них написали заявления о своем решении покинуть компанию, а их рассказы были собраны и распространены во внутреннем документе.

Сотрудники, которые уходят в отставку в знак протеста, говорят, что руководители стали менее прозрачными в спорных бизнес-решениях и менее заинтересованы в том, чтобы слушать возражения сотрудников. В случае с Maven Google помогает Министерству обороны внедрять машинное обучение для классификации изображений, собранных беспилотными летательными аппаратами. Но некоторые сотрудники считают, что люди, а не алгоритмы, несут ответственность за эту чувствительную и потенциально опасную работу, и что Google вообще не должен участвовать в работе с министерством обороны.

Исторически Google продвигала открытую культуру, которая побуждает сотрудников бросать вызов и обсуждать решения о продуктах. Но некоторые сотрудники считают, что их руководство больше не так внимательно относится к их проблемам, оставляя их перед лицом последствий.

В дополнение к отставкам почти 4 000 сотрудников Google заявили о своей оппозиции проекту Maven во внутреннем ходатайстве, которое просит Google немедленно отменить контракт и разработать политику в отношении возможного сотрудничества с военными.

Тем не менее, растущее давление со стороны сотрудников, похоже, мало повлияло на решение Google - компания защитила свою работу над Maven и считается одним из ведущих претендентов на другой крупный контракт на облачные вычисления в Пентагоне, совместную инфраструктуру защиты предприятий, лучше известный как JEDI.

Google подчеркнул, что его ИИ не используется, чтобы убивать, но использование искусственного интеллекта в беспилотной программе Пентагона по-прежнему вызывает сложные этические и моральные проблемы для программистов и ученых, изучающих область машинного обучения.

Сегодня более 90 ученых в области искусственного интеллекта, этики и информатики опубликовали письмо, в котором содержится призыв к Google прекратить работу над проектом Maven и поддержать международный договор, запрещающий автономные системы оружия. Питер Асаро и Люси Сучман, два из авторов письма, засвидетельствовали перед Организацией Объединенных Наций об автономном оружии; третий автор, Лилли Ирини, профессор и бывший сотрудник Google.

 

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Уязвимости MagicDot в Windows открывают дорогу руткитам

Некорректные DOS-пути в номенклатуре имен файлов в Windows могут быть использованы для сокрытия вредоносного содержимого, файлов и процессов. Исследователь из SafeBreach Ор Яир обозначил проблему, связанную с процессом преобразование DOS-пути в NT-формат в Windows.

Злоумышленники получают руткит-возможности для скрытия своих вредоносных действий, что представляет огромный риск для предприятий.

Ор Яир сделал акцент на четырёх уязвимостях, связанных с проблемой, которую исследователь назвал "MagicDot". Группа проблем MagicDot существует из-за того, что Windows заменяет пути DOS на пути NT.

Для того чтобы пользователь смог открыть файл или папку на своём компьютере, Windows использует путь, по которому существует файл. Таким путём обычно является путь DOS, который представлен в формате "C:\Users\User\Documents\example.txt". Однако для выполнения операции открытия файла используется другая базовая функция под названием NtCreateFile. Именно она запрашивает путь NT, а не DOS. Поэтому Windows преобразует привычный путь DOS, видимый пользователям, в путь NT, прежде чем вызвать NtCreateFile для выполнения операции.

В процессе преобразования путей, Windows автоматически удаляет все точки и лишние пробелы в DOS-пути, из-за чего и возникает проблема.

DOS-пути выглядят следующим образом:

  • C:\example\example.
  • C:\example\example…
  • C:\example\example<пробел>    

Все они преобразуются в "\??\C:\example\example" в качестве NT-пути.

Ор Яир указал, что автоматическое удаление символов даёт возможность киберпреступникам создавать специально разработанные пути DOS, которые будут преобразованы в NT-пути по их выбору для сокрытия вредоносного содержимого или действий либо для приведения файлов в негодность. 

Ряд техник постэксплуатации могут быть применены злоумышленниками из-за проблем “MagicDot”, которые позволят хакерам сохранить скрытность.

Исследователь рассказал, что, поставив простую точку в конце имени вредоносного файла или назвав файл или каталог только точками и/или пробелами, злоумышленник может сделать недоступными для пользователя и администратора все программы, использующие обычный интерфейс.

В ходе сессии Ор Яир добавил, что техника может быть использована для сокрытия файлов или каталогов внутри архивов. Достаточно лишь завершить имя файла в архиве точкой, чтобы Explorer не смог его просмотреть или извлечь.

Третий метод атаки предполагает маскировку вредоносного содержимого под законные пути к файлам.

Специалист пояснил, что при существовании безобидного файла под названием "benign" в каталоге, хакер, используя преобразование путей из DOS в NT, может там же создать вредоносный файл под таким же названием.

Этот подход может использоваться для имитации папок и даже более широких процессов Windows. В результате, когда пользователь читает вредоносный файл, вместо него возвращается содержимое исходного безвредного файла, и жертва даже не подозревает, что на самом деле открывает вредоносный контент.

Исследователь сообщил, что данные манипуляции с путями MagicDot могут предоставить злоумышленникам руткит-способности без прав администратора и без вмешательства в цепочку вызовов API.

Киберпреступники получают возможность скрывать файлы и процессы, прятать файлы в архивах, влиять на анализ файлов с предварительной выборкой, заставлять пользователей диспетчера задач и Process Explorer думать, что файл зловреда является проверенным исполняемым файлом, опубликованным Microsoft, выводить из строя Process Explorer с помощью уязвимости отказа в обслуживании (DoS) и многое другое.

Ор Яир предупредил о значимости угрозы в мире кибербезопасности и напомнил о важности разработки методов и правил обнаружения непривилегированных руткитов.

Исследователь в области безопасности Ор Яир обнаружил в ходе своего исследования путей  "MagicDot" четыре различные уязвимости, связанные с основной проблемой. Три из них уже исправлены Microsoft.

С помощью уязвимости удаленного выполнения кода (RCE) (CVE-2023-36396, CVSS 7,8) в новой логике извлечения архивов Windows для всех новых поддерживаемых типов архивов злоумышленники создают вредоносный архив, который после извлечения записывается в любое место на удаленном компьютере, что приводит к выполнению кода.

В интервью Dark Reading Ор Яир рассказывает, что, например, пользователь скачивает архив с GitHub, который не является исполняемым файлом, и извлекает его, что считается совершенно безопасным действием. Но теперь само извлечение может запустить код на компьютере.

Следующий баг — это уязвимость повышения привилегий (EoP) (CVE-2023-32054, CVSS 7,3), которая позволяет злоумышленникам записывать в файлы без привилегий, манипулируя процессом восстановления предыдущей версии из теневой копии.

Третья уязвимость — это непривилегированный DOS для антианализа Process Explorer, для которого зарезервирован CVE-2023-42757.

Последний баг, относящийся к EoP, позволяет непривилегированным злоумышленникам удалять файлы. Компания Microsoft подтвердила, что такая уязвимость существует, но пока не исправила её.

Представленные исследователем уязвимости компания Microsoft устранила, но всё же автоматическое удаление точек и пробелов при преобразовании путей из DOS в NT сохраняется. А именно это и является первопричиной уязвимости.

Ор Яир объяснил, что это создает потенциал для обнаружения новых уязвимостей и техник постэксплуатации, которые могут быть гораздо опаснее нынешних.

Проблема актуальна не только для Microsoft, но и для всех производителей программного обеспечения.

Специалист порекомендовал разработчикам программного обеспечения использовать NT-пути вместо DOS, так как они позволяют избежать процесса преобразования и гарантируют, что предоставленный путь — это тот же путь, который используется на самом деле.

На предприятиях же отделам по безопасности следует разработать средства обнаружения неправомерных точек и пробелов в путях к файлам.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru