Дональд Трамп отменил директиву по безопасности ИИ прежней администрации

Дональд Трамп отменил директиву по безопасности ИИ прежней администрации

Дональд Трамп отменил директиву по безопасности ИИ прежней администрации

Президент США Дональд Трамп отменил указ Джо Байдена от октября 2023 года, обязывающий разработчиков продвинутых систем искусственного интеллекта (ИИ) делиться с правительством результатами тестирования на безопасность и защиту технологий.

Этот указ акцентировал внимание на применении ИИ в экономике, общественной безопасности и здравоохранении, а также предусматривал разработку стандартов для снижения рисков в химической, биологической, ядерной и кибербезопасности, связанных с генеративным ИИ.

Инцидент в Лас-Вегасе 1 января 2025 года, когда злоумышленник взорвал электромобиль, пользуясь подсказками генеративного ИИ, продемонстрировал, что преступные группы начали активно осваивать эту технологию. Эксперты прогнозируют, что число подобных преступлений может значительно вырасти в ближайшие месяцы.

Кроме того, указ Байдена включал меры по борьбе с дипфейками и предписывал облачным провайдерам уведомлять власти о зарубежных клиентах. Однако эти инициативы вызвали резкую критику со стороны Республиканской партии, отмечает Reuters.

В партийной платформе 2024 года эти меры были названы «тормозом для технического прогресса». Из-за сопротивления республиканцев в Конгрессе и Сенате администрация Байдена не смогла утвердить данные инициативы в виде закона, что вынудило ее прибегнуть к указам.

«Республиканцы поддерживают развитие искусственного интеллекта, основанное на принципах свободы слова и процветания человека», — говорилось в программном документе партии, с которым Дональд Трамп шел на выборы.

Отмена указа Байдена стала одним из предвыборных обещаний Трампа. По мнению экспертов, опрошенных агентством Reuters, новая администрация сосредоточится на стимулировании инноваций и снижении регулирования в сфере высоких технологий, включая ИИ.

В ИИ-приложениях почти каждая третья уязвимость оказалась высокорисковой

ИИ-приложения снова напоминают: если к обычному веб-сервису прикрутить большую языковую модель, магия появляется не только в презентации, но и в списке уязвимостей. По данным «Информзащиты», в 2026 году 32% уязвимостей, найденных при пентестах ИИ- и LLM-приложений, относятся к высокорисковым.

Для сравнения: по всем классам активов этот показатель составляет около 12%. То есть риск-профиль ИИ-приложений оказался в 2,7 раза выше среднего.

За второй год наблюдений пропорция не изменилась. Более того, медианный срок устранения серьёзных находок вырос с 19 дней в 2025 году до 36 дней в 2026-м.

Проблема в том, что ИИ-системы тащат за собой сразу два слоя риска. Первый — классика веба и API: аутентификация, авторизация, инъекции, секреты, обработка пользовательского ввода.

Второй — уже нейросетевой зоопарк: инъекции в промпт, утечки системного промпта, ошибки RAG-контуров, отравление данных, небезопасная обработка ответов LLM, проблемы в векторных хранилищах и отказ в обслуживании на уровне модели.

Особенно весело становится, когда модель подключают к корпоративным данным, CRM, базе знаний, API или инструментам автоматизации. В этот момент чат-бот перестаёт быть просто болталкой и получает возможность влиять на процессы. А ошибка в правах или логике вызовов превращает его в аккуратную дверь во внутренние системы.

Автоматическими сканерами всё это ловится плохо. По данным исследования, 78% команд сталкивались с тем, что такие средства пропускали критические уязвимости. Поэтому готовность полностью доверить пентесты автономным инструментам за год упала с 29% до 9%.

С устранением тоже не праздник. В 2026 году компании закрывали только 38,4% высокорисковых находок в ИИ / LLM-приложениях — это самый низкий показатель среди типов тестирования. Для API, например, он составил 77,3%.

RSS: Новости на портале Anti-Malware.ru