ИИ помог ученым извлечь звук из фото и немого видео

ИИ помог ученым извлечь звук из фото и немого видео

ИИ помог ученым извлечь звук из фото и немого видео

Метод, разработанный университетскими исследователями, позволяет получать аудиоданные из фотографий и видео, снятого с выключенным микрофоном. Созданный учеными ИИ-инструмент способен даже определить пол комментатора, созерцавшего фотосессию.

Концепция, нареченная Side Eye, предполагает использование стабилизатора изображения и механизма скользящего затвора, присутствующих во встроенных камерах многих современных телефонов. Созданный в ходе исследования инструмент использует средства машинного обучения, и его можно натренировать на аудиозаписях с тем, чтобы он научился распознавать часто употребляемые слова — например, «да» и «нет».

«Представьте себе, что кто-то снимает для TikTok видео, отключив звук, чтобы наложить музыку, — говорит профессор Кевин Фу (Kevin Fu) из Северо-Восточного университета в Бостоне. — А вдруг кому-нибудь захочется узнать, что сказал герой ролика? Вспомнил детский стишок про арбуз или выдал свой пароль? И о чем это шушукаются за его спиной? Все это можно выяснить».

Оказалось, что разговор рядом с объективом камеры вызывает слабые вибрации в стабилизаторе, компенсирующем дрожание рук при съемке. Угол света при этом почти незаметно изменяется.

Извлечь звуковую частоту из этих микровибраций трудно, однако задачу исследователям облегчил эффект скользящего затвора — когда сканирование пикселей происходит построчно, за сотни тысяч прогонов для каждого изображения. Это открывает возможность для детализации изменений, вызванных речью фотографа, его модели или наблюдателя.

По словам исследователей, Side Eye исправно работает даже с материалами, отснятыми при плохом освещении. Не смущают его и неудачные снимки вроде потолка во весь кадр, однако чем больше отображаемой информации, тем лучше.

На выходе вначале получались приглушенные звуки, похожие на человеческую речь. После обучения Side Eye начал извлекать больше полезной информации и стал узнавать людей по голосу — в тех случаях, когда образцы присутствовали в тренировочных наборах данных.

С точки зрения кибербезопасности подобные инструменты составляют потенциальную угрозу, однако их также можно использовать в криминалистике для получения цифровых свидетельств. Так, например, обработанная по методу Side Eye запись с камеры видеонаблюдения сможет подтвердить или опровергнуть алиби подозреваемого в совершении преступления.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Яндекс Документы вышел из бета-версии

Яндекс сообщил о завершении бета-тестирования собственного офисного пакета онлайн-редакторов Яндекс Документы, включающего инструменты для работы с текстами и таблицами. Новый сервис был разработан с нуля и пришёл на смену предыдущему решению, основанному на веб-версии «Р7 Офиса». Теперь редакторы доступны всем пользователям в релизной версии с расширенным функционалом.

Бета-версия онлайн-редакторов от Яндекса появилась в декабре 2024 года. В отличие от прежнего решения, основанного на «Р7 Офисе», новый офисный пакет создавался полностью с нуля.

Ключевой особенностью Яндекс Документов стала глубокая интеграция с нейросетью YandexGPT. С её помощью пользователи могут генерировать тексты по запросу, пересказывать документы или формировать краткое резюме объёмных материалов.

В релизной версии появилась поддержка офлайн-режима: работать с документами можно без подключения к интернету, а при восстановлении связи данные автоматически синхронизируются с облаком. Редакторы уведомляют пользователя как о переходе в офлайн-режим, так и о возвращении соединения.

Среди новых возможностей — комментарии к документам, вставка изображений и таблиц в текстовые файлы. В табличном редакторе реализована поддержка диаграмм, фильтров для анализа данных, поиска по содержимому, а также закрепление областей при работе с крупными таблицами.

«Собственная технологическая платформа делает нас гибче и позволяет быстрее внедрять новые функции. Уже на этапе бета-тестирования мы предложили по-настоящему функциональный инструмент, которым пользовались миллионы человек в рабочих и повседневных задачах. Мы продолжаем развивать сервис, добавляя новые сценарии: офлайн-режим, визуальные инструменты — лишь начало. Впереди — ещё больше нововведений, и мы представим их на флагманской конференции Yandex Connect 30 октября», — отметил руководитель сервиса Документы Евгений Круглов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru