Почти две трети россиян не защищается от дипфейков

Почти две трети россиян не защищается от дипфейков

Почти две трети россиян не защищается от дипфейков

Совместное исследование Контур.Толка и продуктовой группы Контур.Эгида показало, что 64% участников не используют никаких методов защиты от атак с применением технологий дипфейка. При этом половина опрошенных опасается стать жертвами таких атак, а ещё 43% переживают за безопасность своих близких.

В опросе приняли участие 1200 работающих россиян. Согласно результатам, 30% респондентов беспокоит, что нейросети способны с высокой точностью воспроизвести голос и внешность любого человека.

Треть признала наличие угрозы, но считает, что ей можно противостоять. 22% отметили, что у дипфейков есть не только минусы, но и плюсы, а 16% заявили, что относятся к развитию этих технологий спокойно.

Главные страхи связаны с финансовыми рисками: половина участников опроса опасается, что злоумышленники могут взять кредит или похитить деньги от их имени. Ещё 43% переживают за своих родственников и знакомых. Для 22% респондентов главной угрозой является возможный урон репутации при использовании их дипфейков.

Несмотря на это, почти две трети опрошенных (64%) не предпринимают никаких мер защиты. Дополнительные технические средства — например, двухфакторную аутентификацию или самозапрет на кредиты — используют 21%. Договорённость с близкими о кодовом слове на случай подозрительных звонков есть у 10%. Ещё 8% удаляют или не публикуют в соцсетях фото и видео. При этом 32% респондентов полагаются на защитные механизмы, встроенные в цифровые сервисы, например, платформы для видеоконференций.

Системный аналитик Контур.Толка, эксперт Центра ИИ в Контуре Роман Теплоухов отметил, что технологии дипфейков быстро совершенствуются, и многие рекомендации по их выявлению уже не работают. Сегодня для противодействия приходится применять более сложные методы, в том числе анализ видеопотока в реальном времени.

Появляются и новые угрозы: например, сервисы, позволяющие генерировать аудио- и видеоконтент в режиме реального времени.

Руководитель R&D-лаборатории Центра технологий кибербезопасности ГК «Солар» Михаил Бузинов подчеркнул, что мишенью атак становятся не только частные лица, но и компании: «Основными целями кибератак с использованием дипфейков остаются топ-менеджеры, сотрудники финансовых и юридических отделов, лица, принимающие решения. Их ключевой ресурс — доступ к критически важной и конфиденциальной информации».

По его словам, такие атаки не носят массового характера, поскольку требуют серьёзной подготовки: изучения окружения жертвы, связей внутри компании, а также значительных затрат. В 2024 году одна атака на руководителя могла обходиться злоумышленникам в 1–1,5 млн рублей (аренда серверов в ЦОДе, работа команды специалистов по данным, ПО для генерации реалистичного дипфейка). Однако при успехе эти вложения окупались. К подобным угрозам уязвимы все отрасли, особенно финансовая и промышленная, а также государственный сектор.

Директор по продукту Staffcop Контур.Эгида Даниил Бориславский обратил внимание, что дипфейк может использоваться не только для мошенничества, но и как инструмент давления на бизнес:

«Достаточно одного поддельного видео или заявления от имени руководителя, чтобы спровоцировать кризис доверия и репутационные потери. Юридические механизмы защиты от таких угроз пока несовершенны, и это повышает ответственность бизнеса. Именно компании должны первыми выстраивать внутренние барьеры: внедрять практики проверки информации, обучать сотрудников и формировать у них привычку перепроверять даже то, что кажется очевидным».

Нейросеть для ЖКХ научилась материться в первый месяц обучения

Разработчикам отечественного голосового помощника для сферы ЖКХ пришлось «переучивать» систему после того, как в процессе обучения бот освоил ненормативную лексику. Этот случай наглядно показал, насколько критично качество данных, на которых обучаются нейросети.

О возникшей проблеме рассказал ТАСС президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов на Сибирском строительном форуме, который проходит в Новосибирске.

«Приведу забавный случай: нейросеть учится, и буквально уже в первый месяц разработчики обнаружили такую коллизию — нейросеть научилась мату. Как говорится, с кем поведёшься, от того и наберёшься. Эту проблему, конечно, пришлось устранять. Но это в том числе показатель активного взаимодействия с нашими гражданами», — рассказал Михаил Викторов.

При этом, по его словам, внедрение ботов позволило сократить число операторов кол-центров в 5–6 раз без потери качества обслуживания. Нейросетевые инструменты способны обрабатывать до 90% входящих обращений.

Уровень удовлетворённости качеством обслуживания, по оценке Викторова, составляет около 80%. Передавать звонки операторам целесообразно лишь в экстренных случаях — например, при аварийных ситуациях.

Эксперты ранее отмечали, что именно данные, на которых обучается ИИ, являются ключевой причиной появления некорректных или предвзятых ответов нейросетевых инструментов.

RSS: Новости на портале Anti-Malware.ru