Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Разработки Amazon, Microsoft и Intel в области искусственного интеллекта ставят мир под угрозу. Об этом говорит отчёт некоммерческой организации Pax, проанализировавшей деятельности 50 технологических компаний.

В ходе исследования специалисты учитывали несколько критериев: имеют ли разработки анализируемых компаний отношение к смертоносному ИИ, работали ли анализируемые компании над военными проектами.

«Почему компании вроде Microsoft и Amazon не отрицают факта разработки крайне спорной формы оружия? А ведь искусственный интеллект может сам решать, убивать ли ему людей, без непосредственного участия этих самых людей», — объясняет Фрэнк Сличпер, один из авторов исследования.

Очевидно, что специалистов беспокоит оснащённое ИИ оружие, способное независимо от человека выбирать себе цель и атаковать ее. В последнее время на этот счёт было много споров.

Например, Google в прошлом году высказался за запрет использования искусственного интеллекта в системах вооружения.

А вот у Amazon и Microsoft немного другая ситуация — обе компании связаны с Пентагоном контрактами на $10 миллиардов. Они предоставляют военным США облачную инфраструктуру.

В отчете Pax упоминается, что основная задача аналитиков — проинформировать сообщество о текущих разработках в области ИИ, а также заставить корпорации выработать строгие правила в отношении того, какие разработки будут использоваться военными.

Специалист Калифорнийского университета Стюарт Рассел считает, что необходимо ввести запрет на использование оружия, оснащённого искусственным интеллектом.

«Машины, которые будут принимать решения в отношении убийства людей, не должны разрабатываться и использоваться», — подчеркнул Рассел.

WMX представила систему защиты сайтов от «умных ботов»

Российская компания WMX (ООО «Вебмониторэкс») представила новое решение для защиты веб-ресурсов от автоматизированных атак — WMX SmartBot Protection. Продукт рассчитан не только на массовый бот-трафик, но и на более сложных ботов, которые умеют имитировать поведение обычных пользователей.

Проблема здесь вполне прикладная. Значительная часть интернет-трафика сегодня создаётся не людьми, а автоматизированными скриптами.

Такие боты могут собирать данные с сайтов, перебирать пароли, создавать фейковые аккаунты, искать уязвимости и в целом мешать нормальной работе онлайн-сервисов. Особенно чувствительны к этому интернет-магазины, финансовые сервисы, агрегаторы, доски объявлений, медиаплатформы и стриминговые площадки.

При этом боты становятся всё менее примитивными. Если раньше их можно было сравнительно легко отсечь по шаблонному поведению, то теперь они нередко умеют маскироваться под живого пользователя: заходят через браузер, имитируют движение мыши и даже проходят простые CAPTCHA. Из-за этого стандартных фильтров уже часто недостаточно.

В WMX говорят, что их система использует несколько уровней проверки. Сначала трафик фильтруется по базовым признакам — например, по IP-адресам и User-Agent. Если этого недостаточно, дальше подключается анализ браузерного окружения: параметров экрана, шрифтов, а также особенностей canvas и WebGL, которые могут указывать на эмуляторы или headless-браузеры.

Следующий этап — поведенческий анализ. Система смотрит, как именно ведёт себя пользователь: есть ли движения мыши, насколько быстро заполняются формы и не выглядят ли действия слишком механическими. После этого подключаются эвристики, которые оценивают уже не отдельные признаки, а их сочетание. Например, если кто-то кликает строго по центру кнопок через одинаковые интервалы времени, это может выглядеть подозрительно, даже если по отдельности такие действия не кажутся аномальными.

При необходимости могут использоваться и дополнительные проверки, включая CAPTCHA.

Новое решение работает в связке с WMX ПроWAF, веб-экраном компании. Логика здесь довольно понятная: антибот-система должна отсеивать автоматизированный трафик, а WAF — уже защищать приложение от попыток эксплуатации уязвимостей вроде SQL-инъекций, XSS или RCE. Заодно это снижает нагрузку на инфраструктуру, потому что до основного контура доходит уже более «чистый» трафик.

В компании также сообщили, что в будущих версиях собираются добавить систему скоринга угроз и механизмы, связанные с ML, для автоматического формирования новых эвристик.

RSS: Новости на портале Anti-Malware.ru