70% бизнеса опасаются ошибок ИИ и думают о страховании рисков

70% бизнеса опасаются ошибок ИИ и думают о страховании рисков

70% бизнеса опасаются ошибок ИИ и думают о страховании рисков

Почти 70% российских предпринимателей готовы застраховать свой бизнес от проблем, которые может вызвать некорректная работа искусственного интеллекта. Такие данные приводит исследование «Совкомбанк страхования» и «Всероссийского бизнес-центра», проведённое на платформе TenChat.

Больше всего компании боятся утечек конфиденциальной информации и ударов по деловой репутации.

Возможные прямые финансовые потери беспокоят значительно меньше — на них указала лишь треть опрошенных. Для каждого четвёртого бизнесмена страховка от рисков, связанных с ИИ, стала вопросом первоочередной важности.

Исследование также показало, что искусственный интеллект активно внедряется в бизнес-процессы. Более половины компаний (54%), которые уже внедрили ИИ, используют его каждый день или хотя бы несколько раз в неделю. 31% делают это время от времени, и лишь 15% пока обходятся без нейросетей.

Чаще всего ИИ применяют для автоматизации рутинных задач (38%), в маркетинге и персонализации (35%), а также в аналитике и прогнозировании (34%). Реже — в клиентском сервисе, логистике и разработке продуктов.

По словам Станислава Ежова, директора по ИИ «Группы Астра», компании часто внедряют новые инструменты без должного контроля.

«Сегодня бизнес массово внедряет ИИ, но более половины компаний не контролируют результаты, а каждый шестой уже несёт убытки. Важно понимать: когда вы что-то внедряете, нужно сразу думать о безопасной архитектуре. Иначе можно потерять чувствительную информацию вместо того, чтобы упростить себе жизнь», — отметил он.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Вектор атаки TEE.Fail ломает доверенные среды CPU от Intel, AMD, NVIDIA

Исследователи из Технологического института Джорджии и Университета Пердью рассказали о новой атаке под названием TEE.Fail, с помощью которой им удалось извлечь секретные ключи из доверенной среды выполнения (TEE) — того самого «защищённого уголка» процессора, где хранятся самые конфиденциальные данные.

Речь идёт о таких технологиях, как Intel SGX и TDX, а также AMD SEV-SNP. Они используются для так называемых «доверенных вычислений», где данные и код изолированы от операционной системы, чтобы даже взломанный сервер не смог добраться до них.

Но, как выяснилось, в современных процессорах с памятью DDR5 защита уже не такая надёжная. В погоне за скоростью и масштабируемостью производители убрали часть механизмов контроля целостности памяти и оставили только шифрование AES-XTS. А это оказалось слабым местом.

Учёные придумали (PDF) изящный способ — врезаться в шину памяти с помощью промежуточного адаптера (интерпозера) и снимать зашифрованный трафик между оперативкой и процессором. Всё оборудование для эксперимента обошлось меньше чем в $1000, так что, по словам исследователей, повторить атаку смог бы и «продвинутый энтузиаст».

 

Эксперимент показал, что шифрование в DDR5 детерминированное — то есть одни и те же данные превращаются в один и тот же шифротекст. Это позволило исследователям сопоставить зашифрованные блоки с реальными значениями, а дальше — восстановить закрытые ключи, с помощью которых можно выдавать себя за доверенные среды SGX/TDX или SEV-SNP.

 

С помощью TEE.Fail команда смогла:

  • Подделывать TDX-аттестации в блокчейне Ethereum BuilderNet и получать доступ к конфиденциальным данным.
  • Имитировать Intel и NVIDIA TEE, чтобы запускать код вне защищённой среды, но с видимостью легитимности.
  • Извлекать закрытые ключи ECDH прямо из анклав и полностью компрометировать систему.

Для атаки всё же нужны права администратора и физический доступ к серверу, так что массовой угрозой TEE.Fail назвать нельзя. Однако исследование показывает, что современные TEE уже не так надёжны, как считалось ранее, особенно в серверных системах с DDR5.

Исследователи сообщили о проблеме Intel — в апреле, NVIDIA — в июне, AMD — в августе. Все компании пообещали устранить брешь.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru