ИИ стал новой точкой атаки на бизнес: подмена биометрии, утечки, сбои

ИИ стал новой точкой атаки на бизнес: подмена биометрии, утечки, сбои

ИИ стал новой точкой атаки на бизнес: подмена биометрии, утечки, сбои

Специалисты проанализировали три быстроразвивающихся направления в сфере искусственного интеллекта — агентский ИИ (agentic AI), ИИ на периферийных устройствах (edge AI) и квантовый ИИ (quantum AI). Каждое из них открывает новые возможности, но при этом создаёт новые риски: от утечек данных и сбоев в работе систем до аварий и подмены биометрии.

Агентский ИИ: умный помощник с уязвимостями

Агентский ИИ — это автономные системы, которые анализируют данные, принимают решения и могут взаимодействовать с другими сервисами без участия человека.

По оценкам Gartner, к 2028 году такие решения смогут автоматизировать до 15% повседневных задач в бизнесе.

Но у этой автоматизации есть и оборотная сторона. Если злоумышленники вмешаются в работу агента — например, подменят данные или внедрят вредоносный код в систему — он начнёт принимать неправильные решения. Это может привести к сбоям в работе компаний, нарушению безопасности и другим последствиям. В некоторых случаях ИИ может даже начать действовать в интересах атакующего, не осознавая этого.

Edge AI: когда ИИ прямо в устройстве

Появление большого числа устройств интернета вещей (IoT) ускорило развитие edge AI — систем, которые обрабатывают данные прямо на устройстве, без постоянного подключения к облаку. Это важно, например, для медицины или транспорта, где задержки недопустимы.

Однако такие устройства часто уязвимы: они могут использовать устаревшее ПО, быть слабо защищены или использовать небезопасные настройки. Кроме того, они подвержены сетевым атакам (например, DDoS, спуфинг или «человек посередине»), а сами ИИ-модели — манипуляциям с входными данными. Всё это может привести к утечкам информации или сбоям в работе систем.

Квантовый ИИ: пока экзотика, но с серьёзными рисками

Квантовые технологии только начинают внедряться в ИИ, но уже рассматриваются для задач в медицине, логистике, энергетике и других отраслях. Они позволяют быстрее обрабатывать сложные задачи и требуют меньше энергии, чем классические суперкомпьютеры.

На практике такие системы чаще всего доступны через облачные платформы. Это означает, что возможны атаки на инфраструктуру провайдеров: кража архитектуры моделей, обучающих данных или внедрение уязвимостей на этапе обучения. Вред может быть серьёзным — от ошибок в медицинских ИИ до некорректного распознавания подозрительных операций в финансах. Кроме того, квантовые технологии могут усиливать старые методы атак — например, ускорять взлом паролей.

Хотя сейчас хакеры чаще используют проверенные схемы, эксперты считают, что это может быстро измениться. Поэтому важно не просто защищать сами ИИ-модели, но и учитывать, как они взаимодействуют с бизнес-процессами. Нужно ограничивать доступ ИИ к конфиденциальной информации, внедрять контрольные механизмы и обучать сотрудников — иначе даже самая современная технология может стать уязвимостью.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Банки могут ограничить операции по счетам подростков 100 тыс. руб. в месяц

Банк России выпустил методичку по обслуживанию несовершеннолетних физлиц. Приведенные в документе рекомендации призваны сократить число случаев вовлечения таких клиентов в преступные финансовые схемы.

В стране растет активность мошенников, вербующих подростков в качестве помощников по отъему денег у граждан и отмыванию нетрудовых доходов. Регулятор призывает кредитные организации повысить внимание к операциям по счетам физлиц в возрасте от 14 до 18 лет.

При открытии счета несовершеннолетнему клиенту банкам рекомендуется проинформировать его о рисках и последствиях соучастия в преступлениях, а также о способах противодействия вербовке.

Условия таких договоров, в том числе действующих, следует пересмотреть и внести пункт об уведомлении родителей о выдаче их чаду банковской карты, а в дальнейшем — о совершаемых по ней операциях.

Банкам также советуют заранее узнать, с кем подросток собирается обменивать переводами и с каким представителем его интересов можно будет связаться при движении крупных сумм на счету.

Во внутренней документации банков по противодействию отмыванию доходов и финансированию терроризма рекомендуется определить признаки вовлечения несовершеннолетних в преступную деятельность.

Кроме того, ЦБ настоятельно советует прописать в договорах с подростками лимит на операции по зачислению средств на счет сторонними лицами, а также на операции по внесению / снятию наличных — суммарно не более 100 тыс. руб. в месяц.

Если при обслуживании таких клиентов возникнет подозрение, что инициатор сделки — посторонний человек, либо подросток действует под чьим-то руководством, банк вправе отказать в проведении платежа.

Напомним, в России с лета действует запрет на заключение договоров банковского счета с лицами в возрасте от 14 до 18 лет без письменного согласия их родителей или других законных представителей. Исключение составляют случаи, когда подросток по достижении 16 лет работает по трудовому договору либо занимается предпринимательской деятельностью с согласия родителей / усыновителей / попечителя.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru