Amazon предложила решение проблемы использования системы Rekognition

Amazon предложила решение проблемы использования системы Rekognition

Amazon предложила решение проблемы использования системы Rekognition

Один из ведущих специалистов Amazon Мэтт Вуд, занимающийся искусственным интеллектом, уверен, что в процессе разработки системы распознавания лиц, которую будет использовать полиция, необходимо участие правительства в качестве контролирующего органа.

Вуд считает, что правительство должно регулировать то, как полиция и службы безопасности используют систему распознавания лиц.

С подобным заявлением разработчик выступил после критики в адрес системы Rekognition, которой ее подверг Американский союз защиты гражданских свобод.

Таким образом, в настоящий момент есть один основной вопрос — насколько можно доверять системам вроде Rekognition, насколько же они точны. Особенно этим вопросом задается чернокожее население Соединенных Штатов, так как в их случае система ошибается чаще.

Естественно, это стало проблемой в США, где расовые предрассудки продолжают существовать и по сей день.

Со своей стороны, Вуд предложил использовать настройки системы по умолчанию (а не рекомендованные). Это поможет снизить риск ложного опознания.

«Существует разница между использованием машинного обучения для идентификации, например, еды, и использованием машинного обучения для сравнения лица человека с базой преступников», — объяснил Вуд.

«В последнем случае речь идет о действительно высокой степени риска, а также о последствиях, которые может повлечь за собой ошибка. Следовательно, требуется куда более серьезный уровень доверия к системе».

К слову, не только Amazon высказалась за участие правительства в создании правил использования системы распознавания лиц правоохранительными органами. Президент Microsoft Брэд Смит в начале этого месяца призывал к тому же.

Напомним, что Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

Замаскированные ссылки в Telegram позволяют деанонимизировать людей

Даже один, казалось бы, безобидный клик в Telegram может обернуться утечкой реального IP-адреса. Исследователи обнаружили, что специально сформированные прокси-ссылки позволяют злоумышленникам деанонимизировать пользователя — без дополнительных подтверждений и предупреждений. После публикаций об этом Telegram пообещал добавить предупреждения при открытии таких ссылок.

Как выяснилось, клиенты Telegram на Android и iOS автоматически пытаются подключиться к прокси-серверу, если пользователь нажимает на ссылку формата t.me/proxy?.... Причём соединение происходит напрямую, ещё до добавления прокси в настройки.

Proxy-ссылки Telegram предназначены для быстрой настройки MTProto-прокси — их часто используют для обхода блокировок и сокрытия реального местоположения. Обычно такая ссылка выглядит так:

t.me/proxy?server=IP&port=PORT&secret=SECRET

Но, как показали исследователи, такую ссылку легко замаскировать под обычное имя пользователя или «безопасный» URL. В сообщении она может выглядеть, например, как @username, хотя на самом деле ведёт на прокси-настройку.

Если пользователь нажимает на такую ссылку с телефона, Telegram автоматически проверяет доступность прокси, отправляя сетевой запрос напрямую с устройства. В результате владелец прокси-сервера получает реальный IP-адрес жертвы.

«Telegram автоматически пингует прокси до его добавления, запрос идёт в обход всех настроек, и реальный IP логируется мгновенно», — описывают механизм исследователи. Они называют это «тихой и эффективной точечной атакой».

Раскрытый IP-адрес можно использовать для определения примерного местоположения пользователя, таргетированных атак, DDoS или дальнейшего профилирования. Особенно опасной эта проблема выглядит для журналистов, активистов и пользователей, которые изначально используют Telegram и прокси именно ради анонимности.

Ситуацию впервые подробно описал телеграм-канал chekist42, а затем её подхватили исследователи и OSINT-аккаунты в X, опубликовав видеодемонстрации атаки.

В Telegram не считают происходящее полноценной уязвимостью. В компании заявили, что любой сайт или прокси-сервер в интернете может видеть IP-адрес посетителя, и это якобы не делает ситуацию уникальной.

«Любой владелец сайта или прокси видит IP-адрес пользователя вне зависимости от платформы. Это не более актуально для Telegram, чем для WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) или других сервисов», — сообщили в Telegram BleepingComputer.

Тем не менее разработчики признали риски и пообещали добавить предупреждения при переходе по прокси-ссылкам, чтобы пользователи понимали, что именно они открывают. Когда именно это появится в клиентах — пока не уточняется.

Пока предупреждений нет, эксперты советуют быть особенно осторожными:

  • не кликать по подозрительным ссылкам t.me, даже если они выглядят как имена пользователей;
  • помнить, что прокси-ссылки могут быть замаскированы под обычный текст;
  • особенно внимательно относиться к таким ссылкам на мобильных устройствах.

RSS: Новости на портале Anti-Malware.ru