Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Microsoft Defender по ошибке отметил SQL Server устаревшим

Компания Microsoft работает над устранением сбоя в корпоративной платформе безопасности Defender for Endpoint, из-за которого защитный софт ошибочно помечал SQL Server 2017 и 2019 как «устаревший».

В BleepingComputer сообщают, сбой затронул клиентов Defender XDR ещё в среду утром. При этом сама Microsoft подтверждает, что SQL Server 2019 будет поддерживаться до января 2030 года, а SQL Server 2017 — до октября 2027 года.

Ошибка возникла из-за недавнего обновления кода, связанного с системой определения «end-of-support» (EoL) — программ, срок поддержки которых уже истёк. В результате Defender неправильно отмечал актуальные версии SQL Server как устаревшие.

«Пользователи с установленными SQL Server 2019 и 2017 могут видеть некорректные метки в разделе Threat and Vulnerability Management. Мы уже начали выкатывать фикс, который отменит ошибочные изменения», — сообщили в Microsoft.

Компания уточнила, что проблема может затрагивать всех клиентов, использующих SQL Server 2017 и 2019, однако речь идёт об инциденте ограниченного масштаба.

Microsoft пообещала опубликовать график полного развёртывания фикса, как только он будет готов.

Это не первый случай, когда Defender for Endpoint ошибочно реагирует на обновления. Неделей ранее продукт неверно определял BIOS на некоторых устройствах Dell как устаревший, предлагая установить несуществующее обновление.

А в начале сентября компания устраняла ещё один сбой — ложные срабатывания антиспам-сервиса, из-за которых пользователи Exchange Online и Microsoft Teams не могли открывать ссылки в письмах и чатах.

Похоже, осень у инженеров Microsoft выдалась особенно жаркой.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru