Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Разработки Amazon, Microsoft и Intel в области искусственного интеллекта ставят мир под угрозу. Об этом говорит отчёт некоммерческой организации Pax, проанализировавшей деятельности 50 технологических компаний.

В ходе исследования специалисты учитывали несколько критериев: имеют ли разработки анализируемых компаний отношение к смертоносному ИИ, работали ли анализируемые компании над военными проектами.

«Почему компании вроде Microsoft и Amazon не отрицают факта разработки крайне спорной формы оружия? А ведь искусственный интеллект может сам решать, убивать ли ему людей, без непосредственного участия этих самых людей», — объясняет Фрэнк Сличпер, один из авторов исследования.

Очевидно, что специалистов беспокоит оснащённое ИИ оружие, способное независимо от человека выбирать себе цель и атаковать ее. В последнее время на этот счёт было много споров.

Например, Google в прошлом году высказался за запрет использования искусственного интеллекта в системах вооружения.

А вот у Amazon и Microsoft немного другая ситуация — обе компании связаны с Пентагоном контрактами на $10 миллиардов. Они предоставляют военным США облачную инфраструктуру.

В отчете Pax упоминается, что основная задача аналитиков — проинформировать сообщество о текущих разработках в области ИИ, а также заставить корпорации выработать строгие правила в отношении того, какие разработки будут использоваться военными.

Специалист Калифорнийского университета Стюарт Рассел считает, что необходимо ввести запрет на использование оружия, оснащённого искусственным интеллектом.

«Машины, которые будут принимать решения в отношении убийства людей, не должны разрабатываться и использоваться», — подчеркнул Рассел.

SASTAV и ARX ASPM PLATFORM объединили анализ кода и управление рисками

Российские разработчики ShiftLeft Security и ARX Security обеспечили совместимость SASTAV SAST и ARX ASPM PLATFORM. Теперь статический анализ исходного кода можно запускать и настраивать непосредственно из интерфейса ASPM-платформы.

Для каждого проекта специалисты смогут выбирать репозитории и ветки, формировать наборы правил, задавать параметры сканирования и устанавливать quality gate — критерии, определяющие, можно ли выпускать продукт с обнаруженными дефектами.

Там же настраивается порядок принятия рисков. В общем, релизу придётся не просто пообещать исправиться, а пройти формальный контроль.

SASTAV отвечает за статический анализ кода. Решение позволяет создавать и редактировать правила, назначать разные наборы проверок отдельным репозиториям и управлять параметрами сканирования.

ARX ASPM PLATFORM выступает единым центром управления AppSec-инструментами. Платформа собирает результаты разных анализаторов, объединяет связанные находки, оценивает риски и показывает общее состояние защищённости цифровых продуктов.

Оба решения используют искусственный интеллект, но на разных этапах. В SASTAV он участвует в проверке дефектов, автоматическом триаже, приоритизации и подготовке рекомендаций по изменению кода. Это должно уменьшить объём сырых предупреждений, передаваемых дальше.

ИИ-ассистент ARX ASPM PLATFORM определяет статусы дефектов, найденных платформой или импортированных из внешних систем. После интеграции получается двухэтажная схема: SASTAV изучает код и фильтрует находки, а ARX сопоставляет их с результатами других инструментов и помогает решить, какой риск допустим.

Разработчики рассчитывают сократить число ручных операций, ускорить подключение проектов к DevSecOps и снизить нагрузку на AppSec-команды.

RSS: Новости на портале Anti-Malware.ru