RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

На проходящей в Сан-Франциско конференции RSA 2020 специалисты выразили беспокойство недостаточным количеством законов, регулирующих использование технологий машинного обучения.

Современные компании активно задействуют машинное обучение, однако киберпреступники тоже не отстают, пытаясь найти лазейки и скомпрометировать такие системы.

Эксперты настаивают, что недостаток регулирующих использование машинного обучения законов является одной из основных причин успешных атак злоумышленников.

Помимо прочих, на конференции RSA 2020 выступала заместитель генерального юрисконсульта Microsoft Кристин Гудвин, которая поделилась статистикой зафиксированных судами кибератак на системы машинного обучения. По словам специалиста, можно наблюдать опасную тенденцию в прецедентах, касающихся данной технологии.

Также эксперты обращают внимание, что существующие законы никак не описывают контрмеры, предназначенные для реагирования на атаки систем машинного обучения. Гудвин, например, подчеркнула, что существующих юридических рычагов недостаточно для воздействия на взламывающих платформы машинного обучения преступников.

В целом специалисты области сошлись на том, что в настоящее время необходимы новые механизмы, которые позволят с точки зрения закона справиться с растущей угрозой атак на системы машинного обучения.

Один хакер, ИИ и 72 часа: злоумышленник взломал крупную AWS-инфраструктуру

Одинокий киберпреступник с помощью ИИ провернул атаку на крупную среду Amazon Web Services и смог выжать из жертвы деньги. Об этом рассказала компания Sygnia, которая занимается реагированием на киберинциденты. Главная деталь здесь не в том, что атаковали облако.

Интереснее другое: по оценке Sygnia, один финансово мотивированный злоумышленник сделал за трое суток объём работы, который обычно занял бы недели.

ИИ помог ему ускорить разведку, разработку скриптов, подбор команд и адаптацию под конкретную инфраструктуру жертвы.

Атака не строилась на одной волшебной дыре. Хакер последовательно сцепил слабые места в приложениях, AWS-ресурсах, репозиториях исходного кода, CI/CD-пайплайнах, рантайм-компонентах и хранилищах данных.

В ход пошли поиск учётных данных, сбор секретов, перечисление облачных ресурсов, злоупотребление пайплайнами деплоя, изменение рантайм-среды, доступ к базам данных и эксфильтрация данных.

Первичный доступ злоумышленник получил через ключ доступа AWS, добытый при помощи уязвимости в приложении. Дальше ключ прогонялся через несколько рабочих сценариев: украсть максимум секретов, создать бэкдоры, расширить доступ и собрать данные для давления на компанию. Каждый новый доступ тут же снова отправлялся в этот же конвейер.

Чтобы показать серьёзность намерений, атакующий выполнял в основном обратимые действия: закрывал доступ к S3-бакетам, снижал ёмкость ECS-сервисов до нуля, создавал правила ACL для блокировки сетевого доступа и очищал очереди SQS. То есть демонстрировал: «Я уже внутри, могу ломать сильнее, если не договоримся».

Sygnia подчёркивает: для защиты не так важно, была ли конкретная команда написана человеком или ИИ. Важно другое — скорость. Если атакующий с LLM может за минуты пройти путь, на который раньше уходили часы, ручной разбор SIEM-алертов уже выглядит как попытка тушить пожар чайной ложкой.

Вывод для компаний напрашивается следующий: облако нужно защищать быстрее. Нужны нормальная видимость активов и учёток, жёсткий контроль секретов, защита CI/CD, готовые сценарии изоляции и автоматизированное реагирование. Потому что в эпоху ИИ один человек может атаковать как маленькая команда.

RSS: Новости на портале Anti-Malware.ru