Почти две трети россиян не защищается от дипфейков

Почти две трети россиян не защищается от дипфейков

Почти две трети россиян не защищается от дипфейков

Совместное исследование Контур.Толка и продуктовой группы Контур.Эгида показало, что 64% участников не используют никаких методов защиты от атак с применением технологий дипфейка. При этом половина опрошенных опасается стать жертвами таких атак, а ещё 43% переживают за безопасность своих близких.

В опросе приняли участие 1200 работающих россиян. Согласно результатам, 30% респондентов беспокоит, что нейросети способны с высокой точностью воспроизвести голос и внешность любого человека.

Треть признала наличие угрозы, но считает, что ей можно противостоять. 22% отметили, что у дипфейков есть не только минусы, но и плюсы, а 16% заявили, что относятся к развитию этих технологий спокойно.

Главные страхи связаны с финансовыми рисками: половина участников опроса опасается, что злоумышленники могут взять кредит или похитить деньги от их имени. Ещё 43% переживают за своих родственников и знакомых. Для 22% респондентов главной угрозой является возможный урон репутации при использовании их дипфейков.

Несмотря на это, почти две трети опрошенных (64%) не предпринимают никаких мер защиты. Дополнительные технические средства — например, двухфакторную аутентификацию или самозапрет на кредиты — используют 21%. Договорённость с близкими о кодовом слове на случай подозрительных звонков есть у 10%. Ещё 8% удаляют или не публикуют в соцсетях фото и видео. При этом 32% респондентов полагаются на защитные механизмы, встроенные в цифровые сервисы, например, платформы для видеоконференций.

Системный аналитик Контур.Толка, эксперт Центра ИИ в Контуре Роман Теплоухов отметил, что технологии дипфейков быстро совершенствуются, и многие рекомендации по их выявлению уже не работают. Сегодня для противодействия приходится применять более сложные методы, в том числе анализ видеопотока в реальном времени.

Появляются и новые угрозы: например, сервисы, позволяющие генерировать аудио- и видеоконтент в режиме реального времени.

Руководитель R&D-лаборатории Центра технологий кибербезопасности ГК «Солар» Михаил Бузинов подчеркнул, что мишенью атак становятся не только частные лица, но и компании: «Основными целями кибератак с использованием дипфейков остаются топ-менеджеры, сотрудники финансовых и юридических отделов, лица, принимающие решения. Их ключевой ресурс — доступ к критически важной и конфиденциальной информации».

По его словам, такие атаки не носят массового характера, поскольку требуют серьёзной подготовки: изучения окружения жертвы, связей внутри компании, а также значительных затрат. В 2024 году одна атака на руководителя могла обходиться злоумышленникам в 1–1,5 млн рублей (аренда серверов в ЦОДе, работа команды специалистов по данным, ПО для генерации реалистичного дипфейка). Однако при успехе эти вложения окупались. К подобным угрозам уязвимы все отрасли, особенно финансовая и промышленная, а также государственный сектор.

Директор по продукту Staffcop Контур.Эгида Даниил Бориславский обратил внимание, что дипфейк может использоваться не только для мошенничества, но и как инструмент давления на бизнес:

«Достаточно одного поддельного видео или заявления от имени руководителя, чтобы спровоцировать кризис доверия и репутационные потери. Юридические механизмы защиты от таких угроз пока несовершенны, и это повышает ответственность бизнеса. Именно компании должны первыми выстраивать внутренние барьеры: внедрять практики проверки информации, обучать сотрудников и формировать у них привычку перепроверять даже то, что кажется очевидным».

Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

В ИИ-индустрии произошло почти невероятное событие. Главы OpenAI, Anthropic, Google DeepMind и Microsoft AI выступили единым фронтом и попросили Конгресс США срочно ужесточить правила продажи синтетической ДНК и РНК.

3 июня Сэм Альтман, Дарио Амодеи, Демис Хассабис и Мустафа Сулейман подписали открытое письмо, в котором призвали обязать компании, занимающиеся синтезом генетического материала, проверять не только сами заказы, но и их заказчиков.

Причина проста: ИИ становится слишком хорошим помощником. Авторы письма опасаются, что современные языковые модели постепенно снижают порог входа в область биотехнологий.

Если раньше потенциальному злоумышленнику требовались серьёзные знания в биологии, то теперь часть информации может подсказать нейросеть: где искать нужные гены, как формулировать запросы и каким образом обходить существующие механизмы проверки.

Впрочем, паники в письме нет. Подписанты отдельно подчёркивают, что современные ИИ-модели пока не способны самостоятельно разработать полноценный патоген с нуля. Для этого всё ещё нужны профессиональные знания и практические навыки.

Но проблема, по их мнению, в другом: защитные барьеры постепенно размываются, а значит, лучше закрывать уязвимости заранее, чем ждать первого громкого инцидента.

Особенно тревожит экспертов рынок синтетической ДНК. Сегодня заказать нужную генетическую последовательность можно сравнительно быстро и недорого. А если ИИ поможет подобрать или замаскировать опасный заказ, существующие системы контроля могут не справиться.

В качестве примера авторы приводят исследование Microsoft, опубликованное в прошлом году. Тогда ИИ-системы для проектирования белков смогли сгенерировать потенциально опасные последовательности, которые прошли мимо фильтров поставщиков. Формально это были новые белки, но по структуре они напоминали уже известные опасные образцы.

Из этого подписанты делают вывод: проверять нужно не только клиентов биотехнологических компаний, но и сами ИИ-системы. Иными словами, фильтры безопасности придётся строить сразу на нескольких уровнях.

Любопытно, что главным событием здесь многие считают даже не содержание письма, а список подписантов. Когда Альтман и Амодеи оказываются под одним документом, значит, вопрос действительно считают серьёзным.

RSS: Новости на портале Anti-Malware.ru