США вводят тотальный контроль в Интернете

США вводят тотальный контроль в Интернете

Британская газета The Daily Mail опубликовала список слов, которые использует Министерство национальной безопасности США для мониторинга интернет-сайтов и социальных сетей. Это было сделано по запросу общественной организации "Информационный центр по защите частной жизни в электронной среде"

Список, состоящий из сотен слов и словосочетаний, впечатляет. Трудно было предположить, что использование в своем аккаунте в Facebook слова "Мексика" или "Китай", будет замечено специальными программами. Кроме того, в списке упомянут почти весь Ближний Восток – Ирак, Иран, Афганистан, Пакистан, Йемен Сомали, а также Северная Корея и Колумбия.

Принципы подбора слов и терминов вполне понятны – список разбит на категории "внутренняя безопасность", "ядерная безопасность", "здравоохранение и птичий грипп", "безопасность инфраструктуры", "терроризм" и другие. Понятно наличие ключевых выражений и слов, таких как "грязная бомба", "заложники", "зарин", "джихад", "Аль-Каида". Однако рядом находятся слова из повседневного лексикона любого мирного обитателя Интернета – "облако", "снег", "свинина", "химический", "мост", "вирус"...

"Под колпак" может попасть автор поста о популярном в Европе автомобиле "смарт" или упомянувший всуе историю о Каине и Авеле. Что примечательно, мониторится само словосочетание "социальная сеть", передает rus.ruvr.ru.

Правозащитники из "Информационного центра по защите частной жизни в электронной среде" считают, что список содержит слишком много слов, имеющих различные смыслы, что создает угрозу гарантиям, которые дает Первая поправка к Конституции США, провозглашающая свободу слова.

Министерство национальной безопасности США (МНБ) в какой-то степени соглашается с критикой. Как заявил пресс-секретарь ведомства Мэтью Чендлер, необходимо уточнить алгоритмы использования поисковых программ.

В свою очередь, высокопоставленный чиновник МНБ в интервью интернет-изданию Huffington Post заявил, что активность в сфере мониторинга Интернета находится в начальной стадии и направлена на предупреждение терроризма и контроль за природными катаклизмами. Он отверг почти автоматически возникшее подозрение, что министерство использует свои возможности для слежки за инакомыслящими.

Судя по активности "Информационного центра по защите частной жизни в электронной среде", с ним согласны не все.

В то же время мониторинг Интернета и соцсетей был бы непростым занятием без взаимодействия с лидерами в сфере компьютерных технологий. Форбс писал в этой связи, что, видимо, МНБ имеет некие договоренности с такими компаниями как Google, Facebook, Twitter и другие, которые позволяют получить доступ к некоторым разделам программного обеспечения и просеивать Интернет в режиме, близком к реальному времени.

Крупнейшие компании располагают гигантской информацией о пользователях. В прошлом году немалую огласку получило расследование Wall Street Journal, согласно которому Google и Apple, как оказалось, собирают информацию о местонахождении своих клиентов не только посредством мобильных гаджетов, но и с помощью персональных компьютеров.

Как пишет издание, Apple сохраняет данные о передвижениях пользователей через свои компьютеры Macintosh, подключенные к сети Wi-Fi. Google делает то же самое через ПК, владельцы которых выходят в Интернет через браузер Google Chrome. Как отмечала газета, обе компании заявляют, что хранение этих данных строго конфиденциально и "не преследует каких-то скрытых намерений".

Но это значит, что за вами все же следят.

Остается один вопрос – насколько широко географически используются возможности "Большого брата", описанные в антитоталитарном романе Джорджа Оруэлла "1984" еще в 1949 году.

На прошлой неделе госсекретрь США Хиллари Клинтон заявила, что специалисты успешно взломали сайт "Аль-Каиды" в Йемене и разместили на нем свою информацию. Хотя в этом усмотрели первое признание США в ведении киберопераций, немаловажно и другое – глобальный масштаб активности, не признающей ни границ, ни языковых барьеров.

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru