Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

Конец пиратской Windows отменяется: кого на самом деле проверит Microsoft

Microsoft решила закрутить гайки в системе корпоративной активации Windows, и некоторые СМИ уже поспешили объявить едва ли не конец пиратской Windows 11. На деле охота за домашними пользователями пока не началась: новое требование затронет организации с собственными KMS-серверами.

KMS позволяет компаниям активировать компьютеры внутри сети через один сервер, не отправляя каждый компьютер напрямую к Microsoft.

Проблема в том, что злоумышленники научились создавать поддельные и клонированные KMS-хосты, которые раздают лицензии устройствам, за которые никто не платил.

Новая технология KMS Hardware-Secured привяжет такой сервер к TPM. Чип должен подтвердить Microsoft личность оборудования и доказать, что платформу не модифицировали после регистрации. Не прошёл проверку — активировать корпоративный парк не дадут.

В августе 2026 года Windows Server 2025 начнёт показывать предупреждения о готовности к новым требованиям. Обязательными они станут с выходом следующей LTSC-версии Windows Server, дата которой пока не названа. До этого существующие KMS-системы продолжат работать как обычно.

Администраторы физических серверов уже могут проверить поддержку аттестации TPM командой Get-TpmSupportedFeature -FeatureList "Key Attestation". Для виртуальных KMS-хостов Microsoft ещё готовит отдельные рекомендации.

С пиратскими копиями Windows на домашних ПК нововведение напрямую не связано. Оно не проверяет пользовательский компьютер и не затрагивает популярные методы нелегальной активации, которые обходятся без корпоративного KMS-сервера.

Даже закрытый в ноябре 2025 года метод KMS38 был совсем другой историей: он подделывал срок активации через системный файл и не имел отношения ни к TPM, ни к настоящей инфраструктуре KMS.

Так что Microsoft действительно усиливает защиту лицензий, но пока лишь там, где Windows активируют оптом. Домашним пиратам можно выдыхать, а корпоративным администраторам — проверять TPM.

RSS: Новости на портале Anti-Malware.ru