Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

Wi-Fi из прошлого: у 68% россиян дома стоят устаревшие роутеры

Если домашний интернет стал работать как-то не очень, проблема может быть не у провайдера, а прямо у вас на полке. По данным исследования компании Vigo, около 68% роутеров в российских домохозяйствах до сих пор работают только в диапазоне 2,4 ГГц, а многие из них относятся к устройствам прошлых поколений.

Особенно много такого оборудования оказалось в регионах Северного Кавказа, где доля роутеров 2,4 ГГц превышает 80%. Самые современные сети аналитики зафиксировали в Москве, Санкт-Петербурге, Мурманской области и ХМАО — там показатель составляет около 54-55%.

Проблема стала заметнее на фоне роста нагрузки на домашние сети. По данным Vigo, с конца 2025 года доля Wi-Fi в общем интернет-трафике россиян выросла на 6 процентных пунктов и достигла 65%. На фоне периодических ограничений мобильного интернета многие пользователи всё чаще зависят именно от домашнего Wi-Fi.

Как объясняют специалисты, диапазон 2,4 ГГц давно перегружен. Он лучше проходит через стены и обеспечивает большое покрытие, но страдает от помех со стороны соседних сетей и многочисленных устройств, накопившихся за годы использования этой частоты.

Проще говоря, если весь подъезд сидит на старых роутерах, качество связи начинает страдать у всех.

Эксперты рекомендуют переходить на двухдиапазонные модели с поддержкой Wi-Fi 5, Wi-Fi 6 или более новых стандартов. Они используют диапазон 5 ГГц, где больше свободных каналов и меньше взаимных помех.

Впрочем, сами операторы связи с оценками Vigo спорят. В «Ростелекоме» утверждают, что доля устаревших роутеров среди их абонентов не превышает 10%, а базовым вариантом подключения уже стали устройства стандарта Wi-Fi 6. В «Билайне» говорят, что около 40% роутеров клиентов всё ещё работают на 2,4 ГГц, а в «Дом.ру» заявляют, что две трети пользователей уже используют устройства Wi-Fi 6.

RSS: Новости на портале Anti-Malware.ru