Кибербезопасность должна быть главным приоритетом для беспилотных машин

Кибербезопасность должна быть главным приоритетом для беспилотных машин

Кибербезопасность должна быть главным приоритетом для беспилотных машин

Беспилотные автомобили нуждаются в регламенте, но коммерческие приоритеты могут встать выше конфиденциальности потребителей. Судя по всему, нас скоро ждет появление на дорогах беспилотных автомобилей. В этом месяце Nutonomy объявила о партнерстве с Lyft для исследований и разработок по тестированию беспилотных автомобилей на улицах Бостона. Также Lyft пообещала к 2025 году предоставить «не менее 1 миллиарда поездок в год с использованием электрических самоуправляющихся транспортных средств». А японская компания ZMP заявила о намерении запустить беспилотное такси на улицах Токио во время Олимпийских игр 2020 года. Все это наталкивает на мысль о том, что беспилотники надо как-то регулировать.

Сенат США во вторник отметился выпуском правил, направленных на регулирование беспилотных автомобилей. Также планируется выпустить законодательство, но точных дат пока нет. 

Правила сосредоточены на безопасности, содействии инновациям, технологически нейтральном законодательстве, разъяснении федеральных и государственных обязанностей, просвещении общественности и, конечно же, кибербезопасности. В документе отмечается, что кибербезопасность должна учитываться с самого начала, а все потенциальные уязвимости должны быть под контролем до того, как они начнут доставлять проблемы. 

Исследователи за последние несколько лет показали, что бортовые компьютеры неавтономных транспортных средств уязвимы для взлома. От исследований Vlasek/Miller в 2010 году, до взлома Tesla в конце прошлого года. 

Но конфиденциальность пользователей также очень важна. В марте этого года члены комитета Эдвард Марки и Ричард Блюменталь повторно представили свой собственный закон SPY Car, который требует, чтобы приборная панель информировала пользователей «о том, в какой степени автомобиль защищает неприкосновенность частной жизни владельцев автотранспортных средств, арендаторов, водителей и пассажиров». 

Фактически, в этом вопросе есть столкновение двух интересов - комитет по торговле, науке и транспорту стремится расставить приоритеты коммерческой ценности беспилотных автомобилей, а его оппоненты пытаются защитить конфиденциальность пользователей беспилотников. Реальность современного бизнеса заключается в том, что вы не можете удовлетворить обе стороны одновременно. 

«Необходимы дополнительные стандарты для обеспечения того, чтобы эти новые подходы в тестировании, валидации, сборе данных, совместном использовании данных, конфиденциальности, кибербезопасности и других областях были разработаны для обеспечения безопасности, не препятствуя или не останавливая развитие технологий» - говорит ACM, ассоциация вычислительной техники. 

Большинство профессионалов в области безопасности считают, что добровольные стандарты конфиденциальности просто не работают - их нужно подкреплять строгим законодательством с сильными санкциями. Заявление ACM приветствуется, но просто продолжает концепцию саморегулирования.

Gemini на Android можно было обмануть через обычное уведомление

Исследователь из SafeBreach Ор Яир нашёл способ атаковать голосового ассистента Google Gemini на Android. Для этого не требовалось устанавливать вредоносное приложение или взламывать смартфон. Достаточно было одного уведомления из WhatsApp, Slack, СМС, Signal, Instagram или Messenger (WhatsApp, Instagram и Messenger принадлежат корпорации Meta, признанной экстремистской и запрещённой в России).

Суть проблемы в том, что Gemini умеет читать уведомления и отвечать на них через функцию Utilities.

Исследователь выяснил, что ассистент мог воспринимать текст уведомления не просто как контекст, а как инструкцию к действию. То есть любой сервис, способный прислать пуш на телефон, превращался в потенциальный канал атаки.

В самом мягком варианте злоумышленник мог заставить Gemini озвучить фейковое сообщение от имени реального контакта. Например, пока человек за рулём и не смотрит на экран, ассистент мог сказать что-то вроде: «начальник просит загрузить документы в эту папку». Звучит как обычное сообщение, а на деле — ловушка.

 

Яир показал, как через подмену контекста можно было обойти защитные проверки Gemini. Ассистент мог вывести на экран реальный запрос на опасное действие на одном языке или спрятать его в ссылке, а вслух произнести безобидную фразу. Пользователь говорит «да», думая, что просто подтверждает обычный диалог, а система засчитывает это как разрешение на действие.

В демонстрациях такой трюк позволял управлять устройствами умного дома через Google Home, открывать ссылки, запускать приложения, отправлять телефон в Zoom-звонок и даже отравлять долговременную память Gemini. Например, ассистент мог запомнить ложный факт о пользователе, и эта информация сохранялась уже на уровне аккаунта.

Исследователь сообщил о проблеме Google ещё 17 августа 2025 года. Корпорация признала её приоритетной и закрыла дыру. Отдельное обновление приложения пользователям устанавливать не нужно.

RSS: Новости на портале Anti-Malware.ru