Кибербезопасность должна быть главным приоритетом для беспилотных машин

Кибербезопасность должна быть главным приоритетом для беспилотных машин

Кибербезопасность должна быть главным приоритетом для беспилотных машин

Беспилотные автомобили нуждаются в регламенте, но коммерческие приоритеты могут встать выше конфиденциальности потребителей. Судя по всему, нас скоро ждет появление на дорогах беспилотных автомобилей. В этом месяце Nutonomy объявила о партнерстве с Lyft для исследований и разработок по тестированию беспилотных автомобилей на улицах Бостона. Также Lyft пообещала к 2025 году предоставить «не менее 1 миллиарда поездок в год с использованием электрических самоуправляющихся транспортных средств». А японская компания ZMP заявила о намерении запустить беспилотное такси на улицах Токио во время Олимпийских игр 2020 года. Все это наталкивает на мысль о том, что беспилотники надо как-то регулировать.

Сенат США во вторник отметился выпуском правил, направленных на регулирование беспилотных автомобилей. Также планируется выпустить законодательство, но точных дат пока нет. 

Правила сосредоточены на безопасности, содействии инновациям, технологически нейтральном законодательстве, разъяснении федеральных и государственных обязанностей, просвещении общественности и, конечно же, кибербезопасности. В документе отмечается, что кибербезопасность должна учитываться с самого начала, а все потенциальные уязвимости должны быть под контролем до того, как они начнут доставлять проблемы. 

Исследователи за последние несколько лет показали, что бортовые компьютеры неавтономных транспортных средств уязвимы для взлома. От исследований Vlasek/Miller в 2010 году, до взлома Tesla в конце прошлого года. 

Но конфиденциальность пользователей также очень важна. В марте этого года члены комитета Эдвард Марки и Ричард Блюменталь повторно представили свой собственный закон SPY Car, который требует, чтобы приборная панель информировала пользователей «о том, в какой степени автомобиль защищает неприкосновенность частной жизни владельцев автотранспортных средств, арендаторов, водителей и пассажиров». 

Фактически, в этом вопросе есть столкновение двух интересов - комитет по торговле, науке и транспорту стремится расставить приоритеты коммерческой ценности беспилотных автомобилей, а его оппоненты пытаются защитить конфиденциальность пользователей беспилотников. Реальность современного бизнеса заключается в том, что вы не можете удовлетворить обе стороны одновременно. 

«Необходимы дополнительные стандарты для обеспечения того, чтобы эти новые подходы в тестировании, валидации, сборе данных, совместном использовании данных, конфиденциальности, кибербезопасности и других областях были разработаны для обеспечения безопасности, не препятствуя или не останавливая развитие технологий» - говорит ACM, ассоциация вычислительной техники. 

Большинство профессионалов в области безопасности считают, что добровольные стандарты конфиденциальности просто не работают - их нужно подкреплять строгим законодательством с сильными санкциями. Заявление ACM приветствуется, но просто продолжает концепцию саморегулирования.

Линус Торвальдс резко высказался против ИИ-слопа в ядре Linux

Пока мир захлёбывается от LLM-ботов и бесконечного ИИ-слопа, ядро Linux, похоже, остаётся последним бастионом здравого смысла. По крайней мере, если судить по свежей реакции Линуса Торвальдса на дискуссию вокруг использования ИИ в разработке ядра.

Создатель Linux довольно резко высказался по поводу идеи как-то отдельно регулировать или документировать вклад, сделанный с помощью LLM-помощников.

Поводом стало сообщение разработчика ядра Лоренцо Стоукса, связанного с Oracle, который усомнился в популярной формуле «LLM — это просто ещё один инструмент» и назвал такую позицию наивной.

Ответ Торвальдса был, мягко говоря, недипломатичным — в его стиле:

«Нет. Глупая тут как раз твоя позиция. Говорить об “ИИ-слопе” — это просто идиотизм. Люди, которые клепают плохие патчи с помощью ИИ, не будут добросовестно это документировать. Это настолько очевидно, что я вообще не понимаю, зачем это обсуждать».

Дальше — ещё жёстче. По мнению Торвальдса, документация ядра не должна превращаться в идеологическое поле боя между апологетами ИИ и сторонниками «конца света»:

«Я не хочу, чтобы документация по разработке ядра становилась заявлением об ИИ. У нас и так хватает людей по обе стороны — от “всё пропало” до “ИИ революционизирует разработку”».

Именно поэтому он настаивает на нейтральной формулировке «просто инструмент». Не потому, что он безоговорочно верит в LLM, а потому что документация — не место для деклараций.

При этом позиция Торвальдса остаётся, как ни странно, неоднозначной. Формально он не запрещает использование ИИ-помощников и, похоже, понимает, что запрет был бы бессмысленным. Если LLM-боты можно использовать тайком, их всё равно будут использовать. Просто не скажут об этом.

Контекст у спора вполне реальный. Команды разработчиков уже работают над чёткими рекомендациями по написанию патчей с помощью ИИ, а сами инструменты активно применяются на практике.

Сам Торвальдс раньше высказывался об ИИ куда мягче. В 2024 году он говорил, что 90% ИИ-маркетинга — это хайп, а позже неожиданно допустил вайб-кодинг, но с оговоркой: «если это не для чего-то важного». С этим, впрочем, далеко не все согласились — включая технических журналистов.

Кроме того, Линус в декабре неожиданно оправдал Windows BSOD.

RSS: Новости на портале Anti-Malware.ru