Российские учёные научили ИИ ловить фейковые фото и нелепые изображения

Российские учёные научили ИИ ловить фейковые фото и нелепые изображения

Российские учёные научили ИИ ловить фейковые фото и нелепые изображения

Исследователи из AIRI, Сколтеха, MWS AI и МФТИ по-новому решили одну из наиболее сложных задач компьютерного зрения — выявление изображений с нелогичным содержанием, вроде рыцаря с мобильником или пингвина на велосипеде.

Разработанный ими метод TLG (Through the Looking Glass, «В Зазеркалье») использует ИИ для создания текстовых описаний картинок и обнаружения противоречий при сопоставлении с визуальным содержанием.

В комментарии для «Известий» один из соавторов проекта, доктор компьютерных наук Александр Панченко пояснил: существующие ИИ-модели хорошо распознают элементы картинок, но плохо улавливают контекст — далеко не всегда понимают совместимость представленных объектов с точки зрения здравого смысла.

Чтобы проверить действенность своего подхода, экспериментаторы создали датасет, включив него 824 изображения с нелепыми ситуациями. Тестирование алгоритма показало точность распознавания до 87,5%, что на 0,5-15% выше показателей других существующих моделей, а также большую экономию вычислительных ресурсов.

Новаторская разработка, по словам Панченко, способна повысить надежность систем компьютерного зрения. После доработки и дообучения ее также можно будет использовать для модерации контента — к примеру, для выявления фейковых фото.

Servicepipe выпустила антифрод-систему с цифровым отпечатком пользователя

Российская компания Servicepipe представила новый продукт Digital Fraud Protection, предназначенный для выявления мошеннических действий на сайтах и в мобильных приложениях. Решение анализирует поведение пользователей и технические параметры их устройств, помогая обнаруживать подозрительную активность даже в тех случаях, когда она выглядит как обычная работа легального клиента.

В основе продукта лежит технология формирования цифрового отпечатка браузера. Система собирает и анализирует более 100 различных параметров устройства, браузера и сетевого окружения в ключевых точках пользовательского пути — например, во время авторизации, оплаты или использования промокодов.

По словам разработчиков, такой подход позволяет выявлять злоумышленников даже тогда, когда они меняют IP-адреса, используют VPN, Tor, антидетект-браузеры или регулярно очищают файлы cookie.

Digital Fraud Protection ориентирован на поиск сложных мошеннических сценариев, которые трудно обнаружить стандартными средствами защиты. Среди них — угон учетных записей, создание множества аккаунтов одним пользователем, злоупотребление бонусными программами и мошенничество с онлайн-платежами.

Решение выросло из исследований Лаборатории кибербезопасности Servicepipe, где изучались методы идентификации устройств и выявления аномалий по совокупности технических признаков. Накопленные данные и алгоритмы анализа стали основой отдельного коммерческого продукта.

Интеграция системы выполняется через JavaScript-агент, который встраивается в веб-ресурс. При этом продукт может использоваться как самостоятельный инструмент или как источник дополнительной информации для уже существующих антифрод-систем.

В результате компания получает расширенную аналитику о том, кто именно выполняет то или иное действие на сайте: использует ли пользователь VPN, работает ли через режим инкогнито, связан ли его трафик с хостинговой инфраструктурой, которая ранее использовалась для автоматизированных атак, и другие технические признаки риска.

Наиболее востребованным такое решение может оказаться в финансовом секторе, электронной коммерции, сервисах доставки, маркетплейсах и подписочных платформах — там, где ежедневно проходят тысячи регистраций, авторизаций и платежных операций.

RSS: Новости на портале Anti-Malware.ru