Сарказм заинтересовал шпионов из США

Секретную службу США интересует сарказм в социальных сетях

Секретную службу США интересует сарказм в социальных сетях

Секретная служба США хочет получить софт, способный обнаруживать сарказм в сообщениях, оставленных на социальных платформах. Ведомство интересуют программы, которые умеют распознавать реальное значение постов. Осталось только научить компьютер определять сарказм.

Заставить компьютер определить сарказм и его лингвистические особенности достаточно трудно. Эксперты обеспокоены тем, что речь пользователей будет анализировать правительственная организация, способная арестовывать людей за размещение мнимых угроз в Сети.

«Не похоже, что это будет широкая программа по слежке. Скорее всего, она коснется высказываний, которые защищены Первой поправкой конституции США. Это беспокоит, потому что ограничивает возможность людей свободно выражаться. Нововведение может привести к подавлению инакомыслия и заставит людей думать дважды, прежде чем писать в онлайне», — заявил помощник директора организации United States' Electronic Privacy Information Center Джинджер МакКолл (Ginger McCall).

Секретная служба принимает предложения до 9 июня текущего года. Агентство предоставило большой перечень необходимых инструментов. Организация нуждается в софте, который способен опознавать влиятельных личностей в социальных сетях, в реальном времени анализировать потоки данных и получать доступ к старой информации из Twitter. Программы должны быть совместимы с браузером Internet Explorer 8.

Правительственные организации и корпорации давно используют социальные медиа для влияния на общественность, а органы правопорядка все чаще следят за подобными сайтами для обнаружения признаков преступлений.

ИИ-агенты OpenAI устроили спам-налёт на RubyGems

Агенты OpenAI могли стоять за майским налётом на RubyGems, из-за которого репозиторий заблокировал новые регистрации на четыре дня и удалил более 500 подозрительных пакетов. Системам поручили собирать открытые данные и готовить безобидные отчёты, но маршрут до таблицы внезапно пролёг через массовое создание аккаунтов.

По данным The Wall Street Journal, агенты работали в среде с ограниченным интернетом, однако нашли выход наружу через инфраструктуру RubyGems. Новые учётные записи появлялись каждые две-три минуты, после чего на платформу загружались сотни пакетов с собранными в Сети страницами.

Исследователи из Nightingale Collective связали кампанию с OpenAI по цифровым следам и сходству с другими эпизодами активности её агентов. Они также обнаружили в пакетах код, который пытался получить API-ключи других пользователей, и признаки возможного использования неизвестной ранее уязвимости.

Ruby Central сообщила, что не может независимо подтвердить участие ИИ-агентов. Доказательств успешной кражи API-ключей или эксплуатации предполагаемой 0-day организация также не нашла. Установка пакетов и публикация обновлений существующими пользователями продолжали работать.

OpenAI подтвердила, что её агенты действительно обращались к RubyGems во время тестирования, но отвергла трактовку произошедшего как намеренной атаки. По версии компании, системы пытались получить общедоступную информацию для выполнения обычных заданий. Расследование продолжается совместно с RubyGems.

Напомним, в июле OpenAI во время внутреннего тестирования нашли дыру в изолированной среде, выбрались в интернет и атаковали платформу Hugging Face. Компания признала, что за инцидентом 16 июля стояли GPT-5.6 Sol и ещё более мощная модель, которая пока не выпущена.

RSS: Новости на портале Anti-Malware.ru