Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

В телевизорах Hisense появилась навязчивая реклама при включении и входе

Умные телевизоры давно пытаются что-то продать своим владельцам, но у Hisense, похоже, это зашло слишком далеко. Пользователи начали массово жаловаться, что телевизоры компании показывают рекламу буквально во время базовых действий: при включении, переходе к эфирным каналам и даже при смене источника сигнала, причём эти объявления нельзя пропустить.

Об этом в конце февраля и начале марта писали испанские издания. Больше всего сообщений пришло из Испании и Великобритании, хотя жалобы встречаются и в других странах.

В публикациях фигурируют в основном телевизоры с ОС VIDAA, которую компания в 2026 году начала продвигать под новым названием Home OS.

При этом проблема, судя по отзывам, затронула не только собственно Hisense, но и некоторые модели других брендов, использующих ту же программную платформу.

Самый неприятный момент здесь в том, что реклама, по словам пользователей, появилась уже после покупки телевизора, то есть не как заранее известная особенность дешёвой модели, а как поведение, которое активировалось позже через обновления или серверные настройки.

Некоторые владельцы также утверждали, что объявления показывались даже при отключённых рекламных опциях. Отдельный интерес вызвал способ «лечения» проблемы. По сообщениям пользователей, поддержка Hisense иногда предлагала прислать уникальный идентификатор телевизора на адрес сервиса, после чего реклама на конкретном устройстве отключалась.

Это выглядит так, будто часть управления рекламой идёт со стороны серверной инфраструктуры, а не только через локальные настройки телевизора. Это вывод из пользовательских сообщений; сама компания подробно техническую схему публично не объясняла.

Hisense в комментарии испанским медиа заявила, что речь шла лишь о «точечном тесте» на испанском рынке внутри платформы VIDAA, связанном с оценкой рекламных форматов для бесплатного контента. Компания также утверждает, что тест не ограничивал нормальное использование устройства и что этот формат рекламы уже убрали в Испании. Но на фоне жалоб из разных стран и сообщений, растянутых во времени, такая версия вызывает у пользователей дополнительные вопросы.

RSS: Новости на портале Anti-Malware.ru