Дональд Трамп отменил директиву по безопасности ИИ прежней администрации

Дональд Трамп отменил директиву по безопасности ИИ прежней администрации

Дональд Трамп отменил директиву по безопасности ИИ прежней администрации

Президент США Дональд Трамп отменил указ Джо Байдена от октября 2023 года, обязывающий разработчиков продвинутых систем искусственного интеллекта (ИИ) делиться с правительством результатами тестирования на безопасность и защиту технологий.

Этот указ акцентировал внимание на применении ИИ в экономике, общественной безопасности и здравоохранении, а также предусматривал разработку стандартов для снижения рисков в химической, биологической, ядерной и кибербезопасности, связанных с генеративным ИИ.

Инцидент в Лас-Вегасе 1 января 2025 года, когда злоумышленник взорвал электромобиль, пользуясь подсказками генеративного ИИ, продемонстрировал, что преступные группы начали активно осваивать эту технологию. Эксперты прогнозируют, что число подобных преступлений может значительно вырасти в ближайшие месяцы.

Кроме того, указ Байдена включал меры по борьбе с дипфейками и предписывал облачным провайдерам уведомлять власти о зарубежных клиентах. Однако эти инициативы вызвали резкую критику со стороны Республиканской партии, отмечает Reuters.

В партийной платформе 2024 года эти меры были названы «тормозом для технического прогресса». Из-за сопротивления республиканцев в Конгрессе и Сенате администрация Байдена не смогла утвердить данные инициативы в виде закона, что вынудило ее прибегнуть к указам.

«Республиканцы поддерживают развитие искусственного интеллекта, основанное на принципах свободы слова и процветания человека», — говорилось в программном документе партии, с которым Дональд Трамп шел на выборы.

Отмена указа Байдена стала одним из предвыборных обещаний Трампа. По мнению экспертов, опрошенных агентством Reuters, новая администрация сосредоточится на стимулировании инноваций и снижении регулирования в сфере высоких технологий, включая ИИ.

ГК «Солар» и SEG-T разрабатывают почтовый шлюз с ИИ-фильтрацией

Ко-фаундер Secure-T Харитон Никишкин при поддержке ГК «Солар» запустил разработку решения SEG-T для защиты корпоративной почты. Продукт относится к классу security email gateway и должен фильтровать входящий и исходящий почтовый трафик с помощью мультиагентного ИИ.

Разработчики связывают запуск проекта с ростом фишинговых атак.

Сегодня такие кампании всё чаще собираются из готовых инструментов: панелей управления, инфраструктуры рассылки, антибот-механизмов, модулей перехвата одноразовых кодов и других компонентов. Дополнительно атакующие используют ИИ, чтобы быстрее готовить убедительные письма и масштабировать обман.

SEG-T должен анализировать сообщения не только по техническим признакам, но и по смыслу. ИИ будет оценивать тональность письма, признаки манипуляции, попытки вызвать доверие, страх или срочно подтолкнуть адресата к действию. Также система сможет блокировать письма со ссылками, архивами, PDF, исполняемыми файлами, SVG и другими вложениями, которые могут содержать вредоносный контент.

От отдельной встроенной «песочницы» разработчики отказались. По их оценке, значительная часть современных атак строится не на вредоносном коде, а на социальной инженерии: подмене отправителя, психологическом давлении и попытках заставить пользователя самому выполнить нужное действие. Для критичных вложений при этом планируют оставить возможность подключать внешние «песочницы».

Решение также предполагается использовать вместе с другими продуктами «Солара»: например, с Solar webProxy для проверки трафика и Solar Dozor для контроля пересылки персональных данных — ИНН, СНИЛС, паспортных данных и номеров банковских карт.

SEG-T будет доступен в облаке, локальной сети и Kubernetes. По заявлению разработчиков, запуск продукта в эксплуатацию в среднем должен занимать около 15 минут.

В проекте «Солару» принадлежит 49%. Ранее компания уже увеличила долю в Secure-T до контрольного пакета. Новый проект продолжает направление, связанное с защитой от фишинга, спама, вредоносных рассылок и атак на корпоративную почту.

RSS: Новости на портале Anti-Malware.ru