Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Разработки Amazon, Microsoft и Intel в области искусственного интеллекта ставят мир под угрозу. Об этом говорит отчёт некоммерческой организации Pax, проанализировавшей деятельности 50 технологических компаний.

В ходе исследования специалисты учитывали несколько критериев: имеют ли разработки анализируемых компаний отношение к смертоносному ИИ, работали ли анализируемые компании над военными проектами.

«Почему компании вроде Microsoft и Amazon не отрицают факта разработки крайне спорной формы оружия? А ведь искусственный интеллект может сам решать, убивать ли ему людей, без непосредственного участия этих самых людей», — объясняет Фрэнк Сличпер, один из авторов исследования.

Очевидно, что специалистов беспокоит оснащённое ИИ оружие, способное независимо от человека выбирать себе цель и атаковать ее. В последнее время на этот счёт было много споров.

Например, Google в прошлом году высказался за запрет использования искусственного интеллекта в системах вооружения.

А вот у Amazon и Microsoft немного другая ситуация — обе компании связаны с Пентагоном контрактами на $10 миллиардов. Они предоставляют военным США облачную инфраструктуру.

В отчете Pax упоминается, что основная задача аналитиков — проинформировать сообщество о текущих разработках в области ИИ, а также заставить корпорации выработать строгие правила в отношении того, какие разработки будут использоваться военными.

Специалист Калифорнийского университета Стюарт Рассел считает, что необходимо ввести запрет на использование оружия, оснащённого искусственным интеллектом.

«Машины, которые будут принимать решения в отношении убийства людей, не должны разрабатываться и использоваться», — подчеркнул Рассел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Rust снизил уязвимости памяти в Android до рекордно низких 20%

Google рассказала о результатах перехода Android на язык программирования Rust — и цифры заметные. Впервые за всю историю разработки доля уязвимостей, связанных с безопасностью работы с памятью, опустилась ниже 20% от общего числа уязвимостей в системе.

По словам Джеффа Ван дер Ступа из Google, Rust даёт примерно «в 1000 раз меньшую плотность уязвимостей», чем C и C++ в аналогичных модулях Android.

Но неожиданным бонусом стало другое: новый код быстрее проходит через процесс разработки. Как отметил представитель компании, изменения на Rust откатываются в 4 раза реже и требуют на четверть меньше времени на проверку кода. По сути, более безопасный путь оказался ещё и более быстрым.

Эти выводы подтверждают прошлогодние данные: количество ошибок памяти в Android упало с 223 в 2019 году до менее чем 50 в 2024-м.

Google отмечает, что код на Rust требует примерно на 20% меньше правок, чем C++, что также ускоряет разработку. Сейчас компания планирует расширять использование Rust — не только в системных компонентах, но и в ядре, прошивке и критичных приложениях. Уже сейчас в Chromium заменены парсеры PNG, JSON и веб-шрифтов на безопасные аналоги, написанные на Rust.

При этом в компании подчеркивают: Rust сам по себе не «серебряная пуля». Он — лишь часть общей стратегии по обеспечению безопасности памяти. Как пример, Google приводит найденную уязвимость CVE-2025-48530 в CrabbyAVIF — AVIF-парсере, написанном на Rust с использованием небезопасных блоков кода. Ошибка могла привести к удалённому выполнению кода, но её вовремя исправили до релиза.

Дополнительно оказалось, что проблему фактически нейтрализовал Scudo — пользовательский аллокатор памяти в Android, который защищает от переполнений буфера, use-after-free и других типичных ошибок.

Google отдельно подчёркивает: даже «unsafe»-блок в Rust не отключает общие механизмы безопасности языка. По их данным, даже небезопасный Rust всё равно значительно безопаснее аналогичного кода на C или C++.

Компания ожидает, что C и C++ будут использоваться и дальше, но переход на Rust даёт Android редкую комбинацию — безопасность, не мешающую скорости разработки.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru