Запрет на ИИ Anthropic может ускорить гонку суверенных нейросетей

Запрет на ИИ Anthropic может ускорить гонку суверенных нейросетей

Запрет на ИИ Anthropic может ускорить гонку суверенных нейросетей

История вокруг Anthropic стремительно превращается из технологической новости в политическую. Всего через несколько дней после выпуска новых ИИ-моделей Claude Mythos 5 и Claude Fable 5 доступ к ним оказался закрыт. Эксперты уже заговорили о цифровом противостоянии и суверенитете нейросетей.

По данным американских СМИ, Министерство торговли США потребовало от Anthropic запретить использование моделей всеми, кто не является гражданином США.

Причём речь шла не только о клиентах компании, но даже о сотрудниках самой Anthropic за пределами страны. На выполнение требования якобы отвели всего 90 минут.

Компания сочла такую задачу невыполнимой и в итоге полностью закрыла доступ к новым моделям.

Ситуация выглядит беспрецедентной для рынка генеративного ИИ. Если раньше власти разных стран ограничивали отдельные сервисы, приложения или поставки оборудования, то теперь под экспортный контроль фактически попали когнитивные возможности коммерческой нейросети.

Особый интерес к Claude Mythos 5 объясняется её возможностями. По заявлениям разработчиков, модель способна искать уязвимости в программном обеспечении эффективнее человека, восстанавливать исходный код и решать сложные инженерные задачи. Именно эти функции, по мнению ряда экспертов, могли вызвать опасения американских властей.

На рынке уже заговорили о новом этапе цифрового противостояния. Если раньше государства боролись за контроль над данными и микрочипами, то теперь объектом регулирования становятся сами интеллектуальные возможности ИИ.

Последствия могут оказаться куда шире, чем проблемы одной компании. После инцидента политики в Канаде и Европе уже начали говорить о необходимости ускорять разработку собственных ИИ-моделей и снижать зависимость от американских платформ.

Эксперты в беседе с «Известиями» отмечают, что история с Anthropic стала наглядным напоминанием: любой зарубежный ИИ-сервис может оказаться недоступен не из-за технических проблем, а по политическому решению.

На этом фоне всё чаще звучат разговоры о цифровом суверенитете, локальных моделях и мультивендорном подходе. Потому что зависимость от одного поставщика внезапно превратилась из вопроса удобства в вопрос национальной стратегии.

Сергей Мишин, начальник Центра противодействия киберугрозам «Агропромцифры», поделился своим мнением:

«Этот эпизод - не про конкретные две модели, а про устаревание самой парадигмы "щита и меча": когда атакующий инструмент усиливается или масштабируется ИИ, стандартные принципы обеспечения мероприятий по информационной безопасности теряют смысл. Это всё равно что выйти с мечом и щитом против противника, который притащил с собой завод по производству мечей: пока ты парируешь один удар, он штампует тысячу новых.

Однако, эпизод можно понимать двояко: либо это честный тревожный звонок о необходимости ограничения ИИ, либо нагнетание страха перед ИИ ради суверенизации технологии - и для специалиста по ИБ важно не выбрать одну версию, а заложить обе в модель рисков».

PT Dephaze получил LLM, которая сама ищет пароли и развивает атаку

Positive Technologies обновила систему автопентеста PT Dephaze. Теперь продукт использует встроенную языковую модель для поиска логинов и паролей, а также проверяет защищённость Unix-, Linux- и импортозамещённых инфраструктур.

Локальная LLM анализирует конфигурационные и текстовые файлы в сетевых папках, находит потенциальные учётные данные и проверяет, подходят ли они для входа в обнаруженные корпоративные сервисы.

Нерабочие комбинации отсеиваются, а действующие используются для дальнейшего развития тестовой атаки.

Модель поставляется вместе с дистрибутивом и, по заявлению разработчика, не передаёт обрабатываемую информацию в интернет или сторонним сервисам.

После автопентеста специалисты смогут удалить файлы с забытыми паролями и другими конфиденциальными сведениями (до того, как их обнаружит уже не учебный, а вполне настоящий злоумышленник).

Обновление также расширяет набор атак на Unix- и Linux-системы. PT Dephaze может эксплуатировать подходящие уязвимости для повышения привилегий, извлекать учётные данные с захваченного ресурса и проверять их в других сервисах. Расчёт простой: сотрудники всё ещё любят один пароль на все случаи жизни, а атакующие этим с удовольствием пользуются.

Отдельно появилась поддержка служб каталогов на базе FreeIPA, которые применяются в том числе в импортозамещённых инфраструктурах. Система распознаёт такие домены, собирает сведения об учётных записях, проверяет пароли и может анонимно выгружать список пользователей, если конфигурация сервиса это позволяет.

В Positive Technologies называют интеграцию LLM первым этапом развития ИИ-возможностей PT Dephaze. В дальнейшем разработчики планируют добавить новые техники атак на российские операционные системы.

RSS: Новости на портале Anti-Malware.ru