Эксперты: В будущем киберпреступники смогут управлять нашей памятью

Эксперты: В будущем киберпреступники смогут управлять нашей памятью

Эксперты опасаются, что наша память в будущем может оказаться «взломана» киберпреступниками. Речь идет об использовании нейротехнологий, которые должны помочь людям расширить возможности памяти, а также позволить человеку управлять ей.

Специалисты в первую очередь имеют в виду потенциальную опасность, которая стоит за использованием нейростимуляторов. Это определенные чипы, которые встраиваются в наш мозг, сейчас их применение можно встретить в сфере нейрохирургии.

Как пишет «Би-би-си», в настоящее время таких имплантов используется около 150 тысяч по всему миру.

Все дело в том, что специалисты уже разрабатывают некий «беспроводной, полностью вживляемый нейрокомпьютерный интерфейс», призванный помочь людям, которых постигла потеря памяти.

Эксперты уже ожидают, что в ближайшем будущем на рынке появятся специальные чипы, которые помогут людям улучшить память.

Приблизительно через 20 лет прогнозируется активное взаимодействие с такими чипами, которое позволит человеку записывать сигналы мозга, участвующие в создании воспоминаний, оживлять их и снова возвращать на хранение в память.

И вот тут специалисты обращают внимание на то, что такие технологии могут сыграть злую шутку. Ведь киберпреступники не дремлют — они могут полностью завладеть воспоминаниями людей.

Таким образом, в случае взлома встроенного в мозг чипа, который, например, помогает человеку с болезнью Паркинсона, злоумышленник может привести просто к катастрофическим последствиям для жертвы.

Киберпреступник может угрожать человеку стереть все его воспоминания, а затем требовать выкуп.

Именно это вызывает опасения ученых. Современный мир с его технологиями может быть опасен, особенно в тех случаях, когда дело касается слишком тесной интеграции организма человека и сторонних устройств.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Исследователи спрятали зловреда в модели нейросети, и это сработало

В Университете Китайской академии наук убедились, что использование технологии нейронных сетей для доставки вредоносного кода способно надежно скрыть его от антивирусов. Исследование показало, что в модели можно безбоязненно подменить до половины искусственных нейронов — потеря производительности составит менее 7%, и защитные сканеры вряд ли заметят присутствие зловреда.

Для экспериментов была выбрана (PDF) сверточная нейросеть AlexNet — классическая модель, зачастую используемая для проверки эффективности алгоритмов машинного зрения. Вооружившись несколькими образцами реальных вредоносов, исследователи по-разному прятали их в скрытых слоях сети, фиксируя процент замен и точность предсказаний при прогоне контрольных изображений.

В итоге оказалось, что в 178М-байтовую модель AlexNet можно внедрить до 36,9МБ стороннего кода с потерей производительности менее 1%. Проверка результатов с помощью 58 антивирусов из коллекции VirusTotal не дала ни одного положительного срабатывания.

Для проведения атаки злоумышленнику, со слов исследователей, нужно вначале построить нейросеть и потренировать ее на заранее подготовленном наборе данных. Можно также приобрести уже обученный образец, внедрить вредоносный код и убедиться, что его присутствие не влечет неприемлемую потерю производительности. Подготовленная модель публикуется в общедоступном хранилище и начинает раздаваться, например, как апдейт в рамках атаки на цепочку поставок.

Предложенный подход предполагает дизассемблирование вредоносного кода перед встраиванием в искусственные нейроны. Обратную сборку выполняет программа-загрузчик, запущенная на целевом устройстве. Исполнение зловреда при этом можно предотвратить, если настройки атакуемой системы предусматривают верификацию загружаемого ИИ-контента. Выявить непрошеного гостя сможет также статический или динамический анализ кода.

«Обнаружить такого зловреда с помощью антивирусов в настоящее время затруднительно, — комментирует известный ИБ-специалист Лукаш Олейник (Lukasz Olejnik). — Но причина лишь в том, что никому в голову не приходит искать его в подобном месте».

Эксперты предупреждают, что рост популярности технологии нейросетей открывает новые возможности для злоупотреблений. Ее можно использовать, например, для взлома CAPTCHA, троллинга, шантажа и мошенничества, а также засева бэкдоров (PDF). Исследование возможных сценариев абьюза ИИ — залог успешной борьбы с этой ИБ-угрозой.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru