Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Разработки Amazon, Microsoft и Intel в области искусственного интеллекта ставят мир под угрозу. Об этом говорит отчёт некоммерческой организации Pax, проанализировавшей деятельности 50 технологических компаний.

В ходе исследования специалисты учитывали несколько критериев: имеют ли разработки анализируемых компаний отношение к смертоносному ИИ, работали ли анализируемые компании над военными проектами.

«Почему компании вроде Microsoft и Amazon не отрицают факта разработки крайне спорной формы оружия? А ведь искусственный интеллект может сам решать, убивать ли ему людей, без непосредственного участия этих самых людей», — объясняет Фрэнк Сличпер, один из авторов исследования.

Очевидно, что специалистов беспокоит оснащённое ИИ оружие, способное независимо от человека выбирать себе цель и атаковать ее. В последнее время на этот счёт было много споров.

Например, Google в прошлом году высказался за запрет использования искусственного интеллекта в системах вооружения.

А вот у Amazon и Microsoft немного другая ситуация — обе компании связаны с Пентагоном контрактами на $10 миллиардов. Они предоставляют военным США облачную инфраструктуру.

В отчете Pax упоминается, что основная задача аналитиков — проинформировать сообщество о текущих разработках в области ИИ, а также заставить корпорации выработать строгие правила в отношении того, какие разработки будут использоваться военными.

Специалист Калифорнийского университета Стюарт Рассел считает, что необходимо ввести запрет на использование оружия, оснащённого искусственным интеллектом.

«Машины, которые будут принимать решения в отношении убийства людей, не должны разрабатываться и использоваться», — подчеркнул Рассел.

Российский ИИ силён в науке, но застревает на пути к рынку

Россия стала третьей среди стран БРИКС и 20-й в мире по числу научных работ, представленных на десяти ведущих международных конференциях по машинному обучению и искусственному интеллекту. Результаты исследования опубликовал Наукометрический центр НИУ ВШЭ.

В 2020-2025 годах, по данным «Известий», российские организации представили 560 исследований, которые получили более 12,3 тыс. цитирований.

Средний показатель международной цитируемости составил 3,59 — выше, чем у Индии с её 3,10, несмотря на значительно меньший объём публикаций. Работ меньше, зато читают их заметно внимательнее.

Сильнее всего российская научная школа выглядит в математике машинного обучения, оптимизации и анализе формальных понятий. Заметные результаты также есть в компьютерном зрении и речевых технологиях.

Более 40% отечественных публикаций подготовлены при участии бизнеса. Среди компаний лидирует «Яндекс», среди университетов — НИУ ВШЭ и Сколтех, среди некоммерческих организаций — AIRI.

Но между хорошей статьёй и работающим продуктом всё ещё лежит довольно широкий технологический овраг. Развитию мешают дефицит вычислительных мощностей, ограниченный доступ к качественным данным и слабый перенос исследований в коммерческие решения. Отставание особенно заметно в обработке естественного языка, ИИ-агентах и инфраструктурных технологиях.

В Минцифры заявили, что намерены стимулировать спрос на отечественные ИИ-решения, развивать вычислительную инфраструктуру, совершенствовать регулирование и ускорять внедрение научных разработок.

RSS: Новости на портале Anti-Malware.ru