Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Pax: ИИ-разработки Amazon и Microsoft ставят мир под угрозу

Разработки Amazon, Microsoft и Intel в области искусственного интеллекта ставят мир под угрозу. Об этом говорит отчёт некоммерческой организации Pax, проанализировавшей деятельности 50 технологических компаний.

В ходе исследования специалисты учитывали несколько критериев: имеют ли разработки анализируемых компаний отношение к смертоносному ИИ, работали ли анализируемые компании над военными проектами.

«Почему компании вроде Microsoft и Amazon не отрицают факта разработки крайне спорной формы оружия? А ведь искусственный интеллект может сам решать, убивать ли ему людей, без непосредственного участия этих самых людей», — объясняет Фрэнк Сличпер, один из авторов исследования.

Очевидно, что специалистов беспокоит оснащённое ИИ оружие, способное независимо от человека выбирать себе цель и атаковать ее. В последнее время на этот счёт было много споров.

Например, Google в прошлом году высказался за запрет использования искусственного интеллекта в системах вооружения.

А вот у Amazon и Microsoft немного другая ситуация — обе компании связаны с Пентагоном контрактами на $10 миллиардов. Они предоставляют военным США облачную инфраструктуру.

В отчете Pax упоминается, что основная задача аналитиков — проинформировать сообщество о текущих разработках в области ИИ, а также заставить корпорации выработать строгие правила в отношении того, какие разработки будут использоваться военными.

Специалист Калифорнийского университета Стюарт Рассел считает, что необходимо ввести запрет на использование оружия, оснащённого искусственным интеллектом.

«Машины, которые будут принимать решения в отношении убийства людей, не должны разрабатываться и использоваться», — подчеркнул Рассел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Половина киберинцидентов в Roblox — попытки совращения детей

Киберполиция России призывает родителей принять меры для ограничения и контроля доступа детей к контенту в Roblox — ввиду отсутствия проверок возраста посетителей и модерации общения в приватных зонах на игровой площадке.

Популярная цифровая платформа позиционируется как пространство для детского творчества — создания и запуска игр, а также для общения с единомышленниками. Однако статистика показывает, что рекордный по посещаемости игровой сайт может таить скрытые угрозы.

По данным российских киберкопов, половина Roblox-инцидентов, зафиксированных за последние три месяца, составили попытки совращения детей от 7 до 14 лет:

  • общение сексуального характера с несовершеннолетними (25%);
  • вымогательство интимных фото в обмен на игровую валюту (17%);
  • имитация сцен насилия, показ ролевых сценариев 18+ в закрытых комнатах, доступ к которым можно приобрести за несколько робуксов (8%);
  • мошенничество с игровой валютой (33%);
  • публичные оскорбления и угрозы в чатах и мультиплеерных режимах (17%).

Существующие в Roblox угрозы для несовершеннолетних актуальны также для других стран. Исследования показали, что при регистрации аккаунта сайт полагается лишь на данные о возрасте, предоставленные новым пользователем; достоверность этих сведений никак не проверяется.

В итоге взрослый может указать свой возраст как 10+ и получить возможность добавлять детей в друзья и приглашать их для общения в приватные комнаты либо сторонние мессенджеры и соцсети.

Ребенок, в свою очередь, может зарегистрироваться как 18+, чтобы получить доступ к голосовому чату и другим функциям, для которых введены возрастные ограничения. Более того, контент, помеченный как Mild (персонажи, еле прикрытые одеждой, имитация интимных действий) на Roblox доступен даже юзерам младше 13 лет и отображается безо всяких нотификаций.

В связи с наличием на платформе угроз для юной психики родителям рекомендуется принять профилактические меры:

  • привязать Roblox-аккаунт чада к своему через родительский контроль;
  • отключить ему все чаты на платформе либо ограничить контакты хорошо известными сверстниками;
  • проверить рейтинг доступных игр и заблокировать подозрительные;
  • удалить платежные данные из аккаунта несовершеннолетнего отпрыска.

Напомним, мошенники в России всё чаще используют детей для кражи денег с банковских счетов их родителей. За первые десять месяцев 2025 года в F6 зафиксировали более 6 тыс. случаев развода подростков с этой целью, с общей суммой хищений, превышающей 850 млн рублей.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru