Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

На 42% объектов коммерческой недвижимости изношена телеком-инфраструктура

По данным исследования компании «Обит», на 42% объектов коммерческой недвижимости в России есть признаки износа сетевой инфраструктуры или её дублирования. На каждом пятом объекте выявлены серьёзные нарушения норм безопасности, прежде всего противопожарных.

Отчёт об исследовании оказался в распоряжении ComNews. Исследование проведено на основе анализа данных о телекоммуникационной инфраструктуре на 1000 объектах коммерческой недвижимости Москвы, Санкт-Петербурга и Казани, собранных за 2025 год.

Как показало исследование, на 42% объектов наблюдаются как минимум признаки износа телекоммуникационной инфраструктуры. На такой же доле объектов обнаружено её дублирование. На 20% площадок зафиксированы серьёзные нарушения норм безопасности, в первую очередь противопожарных требований.

Главной причиной такой ситуации авторы исследования называют отсутствие единого управления телекоммуникационной инфраструктурой. На половине объектов централизованного управления сетью нет. В итоге каждый арендатор часто управляет своим сегментом самостоятельно, без координации с владельцем объекта или управляющей компанией.

Из-за этого схемы подключения не всегда согласуются с инженерными службами, маркировка кабельной инфраструктуры выполняется лишь частично, а неиспользуемое оборудование не демонтируется. Это создаёт риски нарушения требований безопасности и может приводить к штрафам со стороны контролирующих органов.

В целом из-за неэффективного управления трудозатраты управляющих компаний могут достигать 1000 человеко-часов в год. В финансовом выражении упущенная выгода сопоставима с годовыми поступлениями как минимум от одного арендатора.

«При проведении административно-управленческого аудита на одном объекте мы насчитали шесть провайдеров, каждый – со своей логикой, серверной и ценником. Результат: кассы падают, камеры висят, арендаторы недовольны, а директор УК по наитию делает вид, что "это не наш контур ответственности". В итоге – простои, потери данных и нервная агония. По нашим оценкам, такие сбои съедают 1,5–2% чистого операционного дохода в год и напрямую снижают капитализацию объекта. Коллеги по цеху регулярно в отчётах по офисному и ретейл-рынку указывают: цифровая нестабильность снижает арендный спрос на 5–7%», – поделился наблюдениями управляющий партнёр консалтингово-девелоперской компании «Территория Дела» Денис Троценко.

«Бизнес-центры, коммерческие этажи жилой застройки и торговые комплексы, особенно построенные пять-десять лет назад, часто превращаются в "клетки Фарадея". Энергоэффективное остекление и монолитный бетон ухудшают сигнал, а помещения, выделенные под телеком-узлы, не соответствуют ни требованиям пожарной безопасности, ни задачам современного бизнеса. В таких условиях любой оператор вынужден строить сети поверх отделки, что и ведёт к нарушениям, зафиксированным в исследовании», – прокомментировал результаты вице-президент по развитию продуктов и работе с МСП «Ростелекома» Тимофей Абраменко.

RSS: Новости на портале Anti-Malware.ru