ИИ помог ученым извлечь звук из фото и немого видео

ИИ помог ученым извлечь звук из фото и немого видео

ИИ помог ученым извлечь звук из фото и немого видео

Метод, разработанный университетскими исследователями, позволяет получать аудиоданные из фотографий и видео, снятого с выключенным микрофоном. Созданный учеными ИИ-инструмент способен даже определить пол комментатора, созерцавшего фотосессию.

Концепция, нареченная Side Eye, предполагает использование стабилизатора изображения и механизма скользящего затвора, присутствующих во встроенных камерах многих современных телефонов. Созданный в ходе исследования инструмент использует средства машинного обучения, и его можно натренировать на аудиозаписях с тем, чтобы он научился распознавать часто употребляемые слова — например, «да» и «нет».

«Представьте себе, что кто-то снимает для TikTok видео, отключив звук, чтобы наложить музыку, — говорит профессор Кевин Фу (Kevin Fu) из Северо-Восточного университета в Бостоне. — А вдруг кому-нибудь захочется узнать, что сказал герой ролика? Вспомнил детский стишок про арбуз или выдал свой пароль? И о чем это шушукаются за его спиной? Все это можно выяснить».

Оказалось, что разговор рядом с объективом камеры вызывает слабые вибрации в стабилизаторе, компенсирующем дрожание рук при съемке. Угол света при этом почти незаметно изменяется.

Извлечь звуковую частоту из этих микровибраций трудно, однако задачу исследователям облегчил эффект скользящего затвора — когда сканирование пикселей происходит построчно, за сотни тысяч прогонов для каждого изображения. Это открывает возможность для детализации изменений, вызванных речью фотографа, его модели или наблюдателя.

По словам исследователей, Side Eye исправно работает даже с материалами, отснятыми при плохом освещении. Не смущают его и неудачные снимки вроде потолка во весь кадр, однако чем больше отображаемой информации, тем лучше.

На выходе вначале получались приглушенные звуки, похожие на человеческую речь. После обучения Side Eye начал извлекать больше полезной информации и стал узнавать людей по голосу — в тех случаях, когда образцы присутствовали в тренировочных наборах данных.

С точки зрения кибербезопасности подобные инструменты составляют потенциальную угрозу, однако их также можно использовать в криминалистике для получения цифровых свидетельств. Так, например, обработанная по методу Side Eye запись с камеры видеонаблюдения сможет подтвердить или опровергнуть алиби подозреваемого в совершении преступления.

В WhatsApp Web готовят групповые голосовые и видеозвонки

WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) готовит интересное обновление для веб-версии мессенджера. В WhatsApp Web появится поддержка групповых голосовых и видеозвонков, благодаря чему пользователи смогут участвовать в звонках независимо от того, с какого устройства они подключаются — смартфона, десктопного приложения или просто браузера.

Функция, согласно WABetaInfo, пока находится в активной разработке и ещё недоступна даже в бета-версии, но первые детали уже известны.

По сути, WhatsApp стремится сделать веб-клиент максимально близким по возможностям к мобильным и десктопным приложениям — чтобы при необходимости можно было обойтись без установки отдельного клиента.

Как следует из последних изменений в WhatsApp Web, компания дорабатывает базовую поддержку звонков и расширяет её на групповые чаты. Это означает, что пользователи смогут запускать голосовые и видеозвонки прямо из группового диалога в браузере, без перехода на смартфон.

Поддержка групповых звонков в веб-версии упоминалась ещё в прошлом году, но тогда она находилась на самой ранней стадии. Сейчас WhatsApp явно продвинулся дальше и доводит функциональность до финального состояния.

Ожидается, что WhatsApp Web будет поддерживать до 32 участников в групповом звонке, как и мобильные версии. Однако окончательные ограничения компания пока не подтвердила. Не исключено, что на старте лимит будет ниже — например, 8 или 16 человек — с последующим расширением.

На этом WhatsApp не останавливается. Вместе с групповыми звонками в веб-версии готовятся и другие полезные функции:

  • создание ссылок на звонки прямо из интерфейса чата — для голосовых или видеозвонков;
  • планирование звонков как для личных, так и для групповых чатов.

Запланированный звонок будет иметь название, описание и примерное время начала и окончания. При этом речь идёт не об автоматическом запуске — WhatsApp просто заранее уведомит участников, чтобы они знали, когда ожидается созвон.

Точной даты запуска пока нет. Все перечисленные функции — групповые звонки, ссылки и планирование — находятся в разработке и появятся в одном из будущих обновлений WhatsApp Web.

Напомним, на днях мы также писали, что WhatsApp тестирует функцию проверки приватности статусов. В свежей бета-версии мессенджера для Android (2.26.2.9), доступной через программу Google Play Beta, у части пользователей появилась возможность посмотреть, с какими настройками приватности был опубликован конкретный статус.

RSS: Новости на портале Anti-Malware.ru