Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

Российским операторам разрешат запускать 5G на оборудовании для 4G

«Билайн», «Мегафон», МТС и Т2 смогут разворачивать сети 5G на уже работающих базовых станциях и частотах, ранее выделенных под LTE. Соответствующий проект Минцифры подготовило для Государственной комиссии по радиочастотам после обсуждения с операторами и ведомствами.

Ключевое слово — технологическая нейтральность. Операторы получат право использовать для 5G имеющиеся диапазоны 4G, а также действующее иностранное оборудование, установленное до 1 сентября 2026 года.

Это позволит не ждать полного строительства новой инфраструктуры и запустить связь пятого поколения значительно быстрее.

Дополнительно операторам планируют выделить полосы в диапазоне 4,63-4,99 ГГц. Они предназначены для высокопроизводительных сетей и новых сервисов, включая промышленные решения. Правда, чудес с покрытием ждать не стоит: такие частоты обеспечивают высокую скорость, но хуже распространяются на большие расстояния и через препятствия.

Первые коммерческие услуги 5G должны появиться в городах с населением более миллиона человек не позднее 31 декабря 2027 года. До 2031-го сети в новом диапазоне будут поэтапно разворачивать в наиболее популярных локациях мегаполисов. Сначала пятое поколение доберётся до центров городов, деловых кварталов и мест с высокой нагрузкой, а уже потом, возможно, и до остальных.

Одновременно с 2027 года начнётся переход на российские базовые станции. Полностью завершить его операторы должны до конца 2031-го.

Таким образом, отечественный 5G стартует не с чистого листа, а на плечах существующих сетей и иностранного железа. Зато ждать идеального технологического будущего ещё пять лет не придётся: сначала запустят как есть, а импортозамещать будут уже по дороге.

RSS: Новости на портале Anti-Malware.ru