В Telegram может появиться верификация возраста на основе ИИ

В Telegram может появиться верификация возраста на основе ИИ

В Telegram может появиться верификация возраста на основе ИИ

На тестовом сервере Telegram обнаружено мини-приложение, которое при попытке просмотра контента 18+ предлагает подтвердить возраст, показав лицо с помощью камеры, встроенной в телефон или подключенной к компьютеру.

При этом юзера уверяют, что данные одноразовой идентификации (селфи) мессенджер не хранит. Планы по вводу возрастных ограничений на основе биометрии IM-сервис пока не озвучивал.

Ознакомившись с механизмом, специалисты заключили, что для выявления возраста по лицу тестовый софт использует ИИ-инструменты, способные по лицу в разных ракурсах определить пол, примерный возраст и эмоции.

Похоже, что это собственная разработка Telegram. Чужие фото в этом случае не прокатят, однако пользователи, которые выглядит моложе 18 лет, могут не пройти идентификацию.

Созданный на основе мини-приложения бот запускается из раздела настроек: Настройки > Настройки чатов (или Конфиденциальность и безопасность) > Материалы 18+. Наличия функций Face ID на устройстве для идентификации не требуется.

Новинка, если ей суждено осуществиться, ориентирована на пользователей стран, в которых введен запрет на просмотр контента деликатного характера для лиц моложе 18 лет, — к примеру, на жителей Великобритании.

Claude помог хакерам пробраться во внутренний репозиторий OpenAI

Команда белых хакеров превратила загрузку одной картинки на официальном форуме OpenAI в пропуск к корпоративным аккаунтам ChatGPT, Codex и закрытому репозиторию компании. Взлом занял менее трёх суток, а значительную часть работы помог выполнить ИИ.

Как рассказали исследователи HackTron AI, точкой входа стал форум community.openai.com на платформе Discourse.

При загрузке изображений он использовал ImageMagick и библиотеку libheif, в которой обнаружилось переполнение буфера. Специально подготовленный HEIC-файл позволил удалённо выполнить код и получить административный доступ к форуму.

На этом цепочка только разогрелась. Исследователи воспользовались отдельной ошибкой в системе единого входа OpenAI: токены аутентификации форума подходили для ChatGPT и Codex. Среди них оказались токены сотрудников компании.

Через скомпрометированный аккаунт разработчика команда добралась до внутреннего монорепозитория OpenAI на GitHub. Чтобы доказать доступ и не устраивать экскурсию по чужому коду, специалисты создали безопасный тестовый pull request, после чего остановили проверку и сообщили о проблеме.

В роли помощников выступили модели Claude Opus 4.8 и Opus 5. Первая исследовала уязвимость, но споткнулась о защитные механизмы. Более новая версия, по данным HackTron, помогла собрать рабочий эксплойт за несколько часов.

OpenAI устранила уязвимость в своей инфраструктуре примерно через 14 часов после отчёта, ограничила права токенов Community и отозвала затронутые сессии. Discourse отдельно исправила проблему обработки изображений.

За находку OpenAI выплатила исследователям $6500. Скромная сумма для цепочки, которая началась с картинки на форуме, а закончилась pull request во внутреннем репозитории.

RSS: Новости на портале Anti-Malware.ru