ФБР заплатила миллиард за глобальную систему шпионажа

ФБР заплатила миллиард за глобальную систему шпионажа

Как сообщает журнал NewScientist, Федеральное бюро расследований США готовится к запуску нового поколения системы распознавания людей. Разработка включает в себя все современные методы установления личности: видеонаблюдение, анализ ДНК, сканирование радужной оболочки глаза, идентификацию голоса и, конечно, распознавание лиц.

В современных фильмах и сериалах часто фигурируют системы наблюдения, которые позволяют «увеличить и очистить изображение». До сих пор подобные функции казались чистой фантастикой, делом далекого будущего. Тем не менее, будущее, похоже, настало раньше, чем можно было ожидать. Вложив порядка миллиарда долларов, ФБР собирается запустить систему глобального масштаба, которая сможет не только опознать человека на картинке, но и отслеживать подозреваемых в толпе.

На испытаниях система продемонстрировала точность распознавания на уровне 92 %. Строго говоря, это неудивительный результат, если учесть, что система создает полноценную 3D-модель лица для каждого человека в базе данных. При опознании модель вращается, пока не найдется совпадение по одному из ракурсов. Единственная проблема – снижение качества распознавания при плохом освещении. Теоретически, это можно решить за счет инфракрасных камер, но на данный момент их решено не использовать из-за относительной дороговизны, передает soft.mail.ru.

Несколько штатов США уже начали загружать фотографии в единую базу ФБР. Ввод системы в строй в национальном масштабе планируется на 2014 год. Кстати, в связи с сообщениями о запуске системы появилась критика со стороны защитников гражданских свобод. В частности, они опасаются, что от действий системы могут пострадать совершенно невинные люди, которые просто окажутся рядом с настоящим подозреваемым.

Интересно, что на текущем этапе в систему добавляются только снимки преступников и подозреваемых, снятые по факту задержания. По мере полного развертывания новой системы этот порядок может измениться – в систему могут быть включены снимки, сделанные в повседневной обстановке.

Понятно, что внедрение такой системы слежения будут приветствовать любые органы правопорядка, поскольку во многих ситуациях она значительно облегчит им работу. С другой стороны, как часто бывает с новомодными технологиями, последствия для тайны частной жизни будет трудно переоценить.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ИИ-помощник Claude провел для шпионов 30 атак, несколько — с успехом

Зафиксирован первый случай злоупотребления ИИ для почти полной (на 80-90%) автоматизации шпионских атак на госструктуры и крупные компании. Суммарно с помощью Claude было атаковано около 30 целей; в нескольких случаях взлом завершился успехом.

Инициатором необычной кампании, по данным Anthropic, являлась китайская APT-группа, идентифицируемая как GTG-1002. Мишени для проведения атак ее участники выбирали сами; их интересовали секреты госсектора, ИТ, финансовой сферы и химической промышленности.

Операторы ИИ-дирижера в ходе каждой многоступенчатой атаки вмешивались лишь 4-6 раз — когда надо было принять стратегическое решение по результатам выполнения задач агентскими Claude.

Эти исполнители определяли площадь атаки, сканировали целевую инфраструктуру в поисках уязвимостей, разрабатывали способы их использования и эксплойт-коды, воровали учетки и проверяли их дееспособность, собирали конфиденциальные данные.

Дискретные задачи ставились компонентам ИИ с тщательной формулировкой промптов и без раскрытия контекста, который бы мог выдать недобрые намерения.

 

Обнаружив атаки с использованием ее продукта, Anthropic запустила расследование, определила масштабы вредоносных операций и по итогам заблокировала ассоциированные аккаунты, а также уведомила потенциальных жертв и правоохранительные органы.

К счастью, в новой бочке дегтя присутствовала ложка меда: из-за склонности в галлюцинациям ИИ зачастую выдавал желаемое за действительное: рапортовал об успехах (краже актуальных учеток, обнаружении якобы неизвестных ранее уязвимостей), хотя действительность свидетельствовала об обратном.

Подобные ошибки говорят о том, что интеллектуальные помощники не способны самостоятельно проводить хакерские атаки — по крайней мере, на современном этапе развития ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru