RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

На проходящей в Сан-Франциско конференции RSA 2020 специалисты выразили беспокойство недостаточным количеством законов, регулирующих использование технологий машинного обучения.

Современные компании активно задействуют машинное обучение, однако киберпреступники тоже не отстают, пытаясь найти лазейки и скомпрометировать такие системы.

Эксперты настаивают, что недостаток регулирующих использование машинного обучения законов является одной из основных причин успешных атак злоумышленников.

Помимо прочих, на конференции RSA 2020 выступала заместитель генерального юрисконсульта Microsoft Кристин Гудвин, которая поделилась статистикой зафиксированных судами кибератак на системы машинного обучения. По словам специалиста, можно наблюдать опасную тенденцию в прецедентах, касающихся данной технологии.

Также эксперты обращают внимание, что существующие законы никак не описывают контрмеры, предназначенные для реагирования на атаки систем машинного обучения. Гудвин, например, подчеркнула, что существующих юридических рычагов недостаточно для воздействия на взламывающих платформы машинного обучения преступников.

В целом специалисты области сошлись на том, что в настоящее время необходимы новые механизмы, которые позволят с точки зрения закона справиться с растущей угрозой атак на системы машинного обучения.

ГК «Солар» взяла курс на защиту искусственного интеллекта

На ЦИПР-2026 группа компаний «Солар» обозначила новый стратегический фокус — развитие решений для безопасности искусственного интеллекта. Компания выступила технологическим партнёром конференции по информационной безопасности и сосредоточила свою программу вокруг темы ИИ, его внедрения в бизнес и связанных с этим киберрисков.

По данным совместного исследования «Солара», Б1, Ассоциации ФинТех и HiveTrace, 60% российских компаний, внедряющих ИИ в бизнес-процессы, не уверены в защищённости таких решений.

Среди основных рисков участники опроса называют утечки данных, галлюцинации моделей, компрометацию источников данных и баз знаний, а также использование ИИ злоумышленниками для автоматизации атак, генерации вредоносного кода и создания дипфейков.

В «Соларе» считают, что вслед за рынком ИИ будет развиваться и рынок защиты ИИ. Компания планирует строить платформенный подход к контролю ИИ-трафика, безопасному использованию нейросетей сотрудниками, защите от утечек, Data Poisoning и рисков, связанных с ИИ-агентами.

Отдельно на ЦИПР обсуждали практические кейсы внедрения ИИ. В партнёрской сессии «Солара» участвовали представители «Ростелекома», «Делимобиля», Альфа-Банка, «АльфаСтрахования», ТМК и «Циана». Компании рассказывали, как используют ИИ в контакт-центрах, разработке, аналитике, страховании, промышленности, модерации и клиентских сервисах.

«Солар» также отвечал за безопасность веб-ресурсов ЦИПР. Перед мероприятием специалисты провели анализ инфраструктуры, а в дни конференции центр Solar JSOC круглосуточно мониторил события и отражал атаки, в том числе с использованием ИИ.

Кроме того, на площадке ЦИПР компания подписала соглашения о сотрудничестве с Т1, группой «Астра», ТМК, «АЛМИ Партнер», «1С-Битрикс» и нижегородским кампусом НИУ ВШЭ.

RSS: Новости на портале Anti-Malware.ru