RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

На проходящей в Сан-Франциско конференции RSA 2020 специалисты выразили беспокойство недостаточным количеством законов, регулирующих использование технологий машинного обучения.

Современные компании активно задействуют машинное обучение, однако киберпреступники тоже не отстают, пытаясь найти лазейки и скомпрометировать такие системы.

Эксперты настаивают, что недостаток регулирующих использование машинного обучения законов является одной из основных причин успешных атак злоумышленников.

Помимо прочих, на конференции RSA 2020 выступала заместитель генерального юрисконсульта Microsoft Кристин Гудвин, которая поделилась статистикой зафиксированных судами кибератак на системы машинного обучения. По словам специалиста, можно наблюдать опасную тенденцию в прецедентах, касающихся данной технологии.

Также эксперты обращают внимание, что существующие законы никак не описывают контрмеры, предназначенные для реагирования на атаки систем машинного обучения. Гудвин, например, подчеркнула, что существующих юридических рычагов недостаточно для воздействия на взламывающих платформы машинного обучения преступников.

В целом специалисты области сошлись на том, что в настоящее время необходимы новые механизмы, которые позволят с точки зрения закона справиться с растущей угрозой атак на системы машинного обучения.

Подпишитесь на новости

Группа Астра выпустила конструктор ИИ-агентов для работы в закрытом контуре

Собрать ИИ-секретаря или помощника техподдержки из визуальных блоков — такой сценарий предлагает «Группа Астра». Компания вывела на рынок «Астра ИИ Платформу»: low-code-конструктор корпоративных ИИ-приложений. По заявлению разработчика, он позволяет сократить внедрение с месяцев до дней и работать без зависимости от зарубежных облаков.

Решение входит в экосистему «Астра ИИ» и поддерживает локальное развёртывание, включая закрытый контур.

Внутри два конструктора. ML отвечает за обучение и развёртывание моделей машинного обучения, LLM — за языковых ассистентов, поиск по документам и автоматизацию процессов.

Сценарии собираются из блоков, настраиваются и отлаживаются в реальном времени. Если визуальных возможностей мало, можно менять код и добавлять собственные блоки на Python.

Платформа поддерживает базы знаний для RAG: помощник ищет информацию в документах компании. Через внешние инструменты агенты подключаются к CRM, ERP, почте и веб-поиску.

Можно также объединять нескольких агентов и распределять между ними задачи.

Среди сценариев есть аналитика, финансовые задачи, техподдержка и мониторинг рисков. В одном из приведённых компанией примеров модели обрабатывают десять страниц чертежей и спецификаций за пять минут, подготавливая данные для инженерных систем.

По данным разработчика, продукт включён в реестр отечественного ПО и уже доступен заказчикам.

RSS: Новости на портале Anti-Malware.ru