RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

RSA 2020: Недостаток регулирующих ИИ законов играет на руку преступникам

На проходящей в Сан-Франциско конференции RSA 2020 специалисты выразили беспокойство недостаточным количеством законов, регулирующих использование технологий машинного обучения.

Современные компании активно задействуют машинное обучение, однако киберпреступники тоже не отстают, пытаясь найти лазейки и скомпрометировать такие системы.

Эксперты настаивают, что недостаток регулирующих использование машинного обучения законов является одной из основных причин успешных атак злоумышленников.

Помимо прочих, на конференции RSA 2020 выступала заместитель генерального юрисконсульта Microsoft Кристин Гудвин, которая поделилась статистикой зафиксированных судами кибератак на системы машинного обучения. По словам специалиста, можно наблюдать опасную тенденцию в прецедентах, касающихся данной технологии.

Также эксперты обращают внимание, что существующие законы никак не описывают контрмеры, предназначенные для реагирования на атаки систем машинного обучения. Гудвин, например, подчеркнула, что существующих юридических рычагов недостаточно для воздействия на взламывающих платформы машинного обучения преступников.

В целом специалисты области сошлись на том, что в настоящее время необходимы новые механизмы, которые позволят с точки зрения закона справиться с растущей угрозой атак на системы машинного обучения.

Торвальдс охладил хайп: Rust и ИИ не спасут Linux от плохого кода

Линус Торвальдс снова разложил всё по полкам и без лишнего поклонения модным технологиям. На Open Source Summit India 2026 создатель Linux рассказал, что ядро развивается без блокбастерных релизов: не резкие скачки, а спокойное постоянное улучшение. Такой подход он предпочитает с тех пор, как появился Git.

По словам Торвальдса, ИИ начал находить интересные баги, и это заметно напрягает сообщество.

Проблема не только в реальных уязвимостях, но и в мусоре: LLM могут генерировать отчёты, которые выглядят правдоподобно, но оказываются галлюцинациями. Людям потом приходится тратить время, чтобы доказать, что ошибки на самом деле не существует.

Торвальдс признал, что сам почти не пишет код и теперь скорее руководит разработкой, чем программирует. Его работа — понимать общий смысл изменений, разбирать пулл-реквесты и следить, чтобы в ядро не прилетало что попало в последний момент. Технические баги, говорит он, чинить проще, чем человеческие конфликты.

Отдельно досталось Rust. Торвальдс считает язык интересным, но не верит, что он захватит мир. По его словам, Rust помогает избежать части простых ошибок, характерных для C, но не спасает от плохой логики. Если программист написал неправильный код, язык за него думать не начнёт. А в смешанных C/Rust-проектах гарантии Rust работают только там, где код действительно остаётся внутри Rust-модулей.

ИИ Торвальдс тоже не списывает со счетов. Он использует LLM для собственных небольших проектов и прототипов, но для исправлений уровня ядра Linux, по его мнению, такие инструменты пока недостаточно надёжны. Если ИИ нашёл баг, мало просто закинуть отчёт разработчикам, нужен человек, который проверит проблему, предложит патч и доведёт обсуждение до результата.

RSS: Новости на портале Anti-Malware.ru