Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

Minecraft впервые за 17 лет повысила системные требования

Mojang впервые за 17 лет решила пересмотреть системные требования Minecraft: Java Edition. Компьютерная классика внезапно вспомнила, что на дворе 2026 год, и попросила игроков подготовить более серьёзное железо. Для запуска игры теперь рекомендуются как минимум Intel Core i3-10100 или AMD Ryzen 3 3100, видеокарта GeForce GTX 950 либо Radeon RX 460 и 8 ГБ оперативной памяти.

Если используется встроенная графика, понадобится уже 12 ГБ. Раньше Minecraft соглашалась на древний Core i3-3210, Intel HD Graphics 4000 и всего 2 ГБ ОЗУ.

Рекомендованная конфигурация выглядит ещё бодрее: Core i5-12400 или Ryzen 5 5600, GeForce RTX 2060 либо Radeon RX 5600 XT и 16 ГБ памяти. Обновились и требования к операционным системам.

Минимумом для Windows станет 64-битная Windows 10, а в рекомендуемую конфигурацию уже записали Windows 11. На яблочных устройствах понадобятся macOS 12 и новее для запуска либо macOS 14 для комфортной игры.

Microsoft объясняет перемены желанием обеспечить стабильную работу Minecraft сейчас и в будущем. Особенно важен грядущий переход Java Edition с OpenGL на Vulkan, который со временем окончательно отправит часть старого оборудования на пенсию.

Впрочем, компьютеры ниже новых требований не заблокируют сразу. Игра пока продолжит запускаться, но разработчики больше не гарантируют нормальную производительность, качество графики и даже сам факт запуска в будущем.

Владельцам старых компьютеров предлагают перейти на менее требовательную Bedrock Edition. Правда, вместе с Java-версией придётся оставить часть любимых модификаций. Остальным остаётся обновлять железо (очень вовремя, когда память стоит особенно дорого).

RSS: Новости на портале Anti-Malware.ru