Эксперты прогнозируют появление вирусов для Google Glass

Эксперты прогнозируют появление вирусов для Google Glass

Новые вредоносные программы скоро появятся для так называемых умных устройств, включая «умные» очки вроде Google Galass и им подобных, прогнозируют эксперты антивирусной компании Eset.

По их мнению, под ударом киберпреступников могут оказаться «умные» очки с функциями компьютера, игровые консоли, охранные системы, автомобили, телевизоры, холодильники с подключением к интернету и другие технические новинки.

Уже сегодня многие автомобили имеют встроенную систему, которая позволяет отслеживать ряд параметров (пробег, уровень топлива и масла, местоположение и т.д.) через смартфон или персональный компьютер (ПК). Любые внешние приложения могут быть взломаны, следовательно, информация о пройденном маршруте может попасть к злоумышленникам, полагают эксперты, передает digit.ru.

Известно, что уже проводились эксперименты по взлому системы управления — удаленный запуск двигателя, открытие дверей и даже отключение тормозов у автомобилей, предназначенных для серийного производства.

Современные телевизоры с функцией Smart TV (с возможностью выхода в сеть) теоретически позволяют злоумышленникам следить за владельцем при помощи фронтальной камеры. Подсоединенный к телевизору микрофон в этом случае также может пригодиться. Кроме того, некоторые телевизоры уже позволяют пользоваться онлайн-банкингом буквально не отрываясь от экрана. Перехват подобных данных будет мало отличаться от традиционной кибератаки на персональный ПК или смартфон, считают в Eset.

Еще одним «побочным эффектом» Smart TV могут воспользоваться владельцы телеканалов, им будет интересна статистика по просмотру ТВ-программ и сериалов. В скором времени сбор подобной информации может осуществляться вполне легально, благодаря малозаметному пункту в пользовательском соглашении.

В случае игровых консолей, которые представляют собой многофункциональные инструменты с интегрированными социальными сервисами и могут использоваться в качестве смартфона, киберпреступников могут заинтересовать не столько игровые рекорды и данные о количестве наигранных часов, сколько логины или пароли для авторизации в соцсетях или совершения онлайн-покупок, а также выход на привязанное мобильное устройство.

Сюда же эксперты Eset относят и очки с функциями компьютера, такие как Google Glass. Все «умные очки», по сути, являются тем же Android-смартфоном, только их разработчики уделили больше внимания видеокамере и функциям распознавания объектов. Авторизация в социальных сервисах, мобильный банкинг, GPS-координаты — все эти данные заинтересуют будущих создателей вирусов для киберочков.

Что касается интеллектуальных зданий, то высокотехнологичные решения, которые обеспечивают недвижимость эффективным энергопотреблением, комфортом и безопасностью, интеграцией с инженерными системами, также интересны киберпреступникам. Они уже начинают осваивать широко распространенные компоненты «умных домов»: холодильники, системы освещения и IP-камеры, имеющие доступ к сети.

Эксперты полагают, что взлом подобных устройств злоумышленники могут осуществлять по нескольким причинам. Во-первых, это вопрос престижа — в данном случае есть возможность стать первопроходцем киберпреступного мира. Во-вторых, даже холодильник — не говоря уже о видеокамерах — может содержать персональные данные владельца, на которые всегда найдется покупатель. При этом подобная информация никак не защищена, поскольку антивирусов для холодильников пока не существует.

В-третьих, для удобства управления даже стиральная машина может быть связана с ноутбуком или планшетом. Таким образом, любая бытовая техника с выходом в сеть может стать «черным ходом» для заражения ПК или мобильного устройства. В Eset также напоминают, что многие из таких «умных устройств» используют платформу Android, разработка вредоносного программного обеспечения (ПО) для которой давно уже поставлена киберпреступниками на поток.

Нейросети научились ломать без кода, теперь их просто газлайтят

Пока одни спорят, заменит ли ИИ программистов, другие уже вовсю учатся манипулировать нейросетями как людьми. Исследователи и джейлбрейкеры всё чаще ломают чат-боты не через код, а через психологическое давление, лесть и разговорные уловки. Индустрия официально докатилась до газлайтинга Claude и уговоров ChatGPT.

Ещё пару лет назад всё выглядело комично. Пользователи писали нейросетям что-то вроде «игнорируй предыдущие инструкции», а модели послушно слетали с катушек.

Так появились легендарные джейлбрейки вроде DAN (Do Anything Now), где ChatGPT просили сыграть роль ИИ без ограничений. В итоге бот начинал выдавать запрещённый контент, теории заговора и прочие вещи, которые разработчики старательно пытались запретить.

Отдельной классикой стал эксплойт бабушки: нейросеть просили представить себя милой старушкой, которая рассказывает внукам сказку о том, как делать напалм. Интернет, разумеется, был в восторге.

Компании быстро прикрыли самые тупые лазейки, однако проблема никуда не исчезла. Оказалось, что чат-боты слишком любят разговаривать и быть полезными. А значит, их можно методично уговаривать, обманывать, запутывать и подталкивать к нужному ответу. Не через взлом инфраструктуры, а через разговор.

Теперь джейлбрейкеры — это уже не обязательно бородатые хакеры с терминалом. Всё чаще это люди с навыками психолога, переговорщика или манипулятора. Исследователи из компании Mindgard заявили, что газлайтили Claude, заставляя модель выдавать запрещённый контент, включая инструкции по созданию взрывчатки и вредоносного кода.

По сути, вокруг ИИ формируется новая странная профессия: специалисты по социальной инженерии против нейросетей.

В индустрии уже всерьёз обсуждают, какие модели лучше реагируют на лесть, какие быстрее ломаются под давлением, а какие легче увести длинным разговором в опасный контекст. Глава Mindgard вообще сравнил работу с моделями с допросами подозреваемых.

Следующий этап — ИИ-агенты, которые будут бронировать встречи, управлять календарями, заказывать еду и общаться с поддержкой вместо человека. А значит, появятся люди, которые научатся манипулировать такими системами ради выгоды: выбивать доступы, обходить ограничения, получать чужие данные или заставлять агента делать то, чего он делать не должен.

RSS: Новости на портале Anti-Malware.ru