ИИ помог ученым извлечь звук из фото и немого видео

ИИ помог ученым извлечь звук из фото и немого видео

ИИ помог ученым извлечь звук из фото и немого видео

Метод, разработанный университетскими исследователями, позволяет получать аудиоданные из фотографий и видео, снятого с выключенным микрофоном. Созданный учеными ИИ-инструмент способен даже определить пол комментатора, созерцавшего фотосессию.

Концепция, нареченная Side Eye, предполагает использование стабилизатора изображения и механизма скользящего затвора, присутствующих во встроенных камерах многих современных телефонов. Созданный в ходе исследования инструмент использует средства машинного обучения, и его можно натренировать на аудиозаписях с тем, чтобы он научился распознавать часто употребляемые слова — например, «да» и «нет».

«Представьте себе, что кто-то снимает для TikTok видео, отключив звук, чтобы наложить музыку, — говорит профессор Кевин Фу (Kevin Fu) из Северо-Восточного университета в Бостоне. — А вдруг кому-нибудь захочется узнать, что сказал герой ролика? Вспомнил детский стишок про арбуз или выдал свой пароль? И о чем это шушукаются за его спиной? Все это можно выяснить».

Оказалось, что разговор рядом с объективом камеры вызывает слабые вибрации в стабилизаторе, компенсирующем дрожание рук при съемке. Угол света при этом почти незаметно изменяется.

Извлечь звуковую частоту из этих микровибраций трудно, однако задачу исследователям облегчил эффект скользящего затвора — когда сканирование пикселей происходит построчно, за сотни тысяч прогонов для каждого изображения. Это открывает возможность для детализации изменений, вызванных речью фотографа, его модели или наблюдателя.

По словам исследователей, Side Eye исправно работает даже с материалами, отснятыми при плохом освещении. Не смущают его и неудачные снимки вроде потолка во весь кадр, однако чем больше отображаемой информации, тем лучше.

На выходе вначале получались приглушенные звуки, похожие на человеческую речь. После обучения Side Eye начал извлекать больше полезной информации и стал узнавать людей по голосу — в тех случаях, когда образцы присутствовали в тренировочных наборах данных.

С точки зрения кибербезопасности подобные инструменты составляют потенциальную угрозу, однако их также можно использовать в криминалистике для получения цифровых свидетельств. Так, например, обработанная по методу Side Eye запись с камеры видеонаблюдения сможет подтвердить или опровергнуть алиби подозреваемого в совершении преступления.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

MITRE AADAPT: фреймворк для защиты от атак на криптоплатежи

НКО MITRE анонсировала запуск AADAPT (Adversarial Actions in Digital Asset Payment Technologies) — базы знаний о киберугрозах для систем цифровых валют, а также для транзакций с использованием таких активов.

Фреймворк AADAPT, построенный по образу и подобию MITRE ATT&CK, призван помочь разработчикам, финансистам, госорганам в выявлении, оценке и смягчении киберрисков, связанных с использованием цифровых валют, в том числе крипты.

Новая матрица содержит описания техник и тактик, которые в ходе атак на профильные финансовые системы и сервисы зафиксировали более 150 источников — научные сообщества, правительственные организации, представители отрасли.

Рост популярности криптовалюты породил новые киберугрозы. Наиболее уязвимыми оказались небольшие организации и органы местного самоуправления, которым зачастую не хватает ресурсов для достойного противостояния.

Миссия AADAPT — восполнить эту недостачу, предоставив плейбук TTP, практическое руководство и инструменты, позволяющие обеспечить адекватную защиту и своевременно выявить атаку на инфраструктуру, а в перспективе — укрепить доверие к экосистеме услуг и сервисов, построенных на базе технологий цифровых валют.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru