Жертвовать защитой ради быстродействия - обычное дело

Жертвовать защитой ради быстродействия - обычное дело

Производитель средств сетевой безопасности Crossbeam Systems решил устроить опрос сотрудников различных предприятий, ответственных за обеспечение информационной безопасности, и выяснить, насколько часто им приходится выбирать между уровнем защиты и производительностью. Результат настораживает.


Основные статистические итоги исследования общественного мнения, в котором участвовали порядка пятисот респондентов, выглядят следующим образом:
- 81% администраторов приходится отключать часть функционала защитных систем, чтобы они не тормозили работу сети;
- 90% участников приходится искать компромиссы между степенью защищенности и быстродействием;
- 93% респондентов считают, что поставщики защитных решений указывают некорректные данные о влиянии своих продуктов на производительность информационных систем (58% при этом вообще не верят соответствующим выкладкам);
- у более чем 60% опрошенных названные производителями показатели быстродействия отличались от реальных настолько сильно, что для обеспечения систем защиты необходимыми аппаратными ресурсами приходилось докупать новое оборудование.

Результаты исследования, таким образом, показывают, что практика отключения защитного функционала ради поддержания  производительности ПК или сети на высоком уровне - едва ли не повседневное явление, причем знакома она не только индивидуальным пользователям, но и системным администраторам. Сотрудникам IT-департаментов, похоже, часто приходится сталкиваться с ситуацией, когда функционирование всех контуров защиты чрезвычайно негативно сказывается на работе сети предприятия.

Представитель Crossbeam Джим Фриз, комментируя итоги опроса, назвал снижение безопасности ради повышения быстродействия опасной тенденцией. По его словам, поставщики защитных решений обычно тестируют свои продукты на производительность в идеализированных лабораторных условиях, которые практически никогда не встречаются на  практике; неудивительно, что после приобретения и установки той или иной системы ее воздействие на ПК и сеть оказывается гораздо более существенным, нежели можно было предполагать изначально.

Впрочем, есть в этом вина и самих IT-специалистов: опрос показал, что им часто не хватает дальновидности и умения строить корректные прогнозы при планировании необходимых аппаратных мощностей. Г-н Фриз, в частности, отметил, что в ряде случаев администраторы сетей недооценивают интенсивность развития информационных ресурсов и ошибочно полагают, что та или иная аппаратная конфигурация обеспечит потребности предприятия на годы вперед - в то время как на самом деле вопрос об апгрейде оборудования встает уже через год-полтора.

Infosecurity US

Письмо автору

На Википедии нашли галлюцинации в ИИ-переводах и ввели ограничения

У Википедии снова случился спор про ИИ, на этот раз из-за переводов. Редакторы ввели новые ограничения для части переводчиков, связанных с Open Knowledge Association (OKA), после того как в ряде ИИ-переводов нашли галлюцинации: подменённые источники, неподтверждённые фразы и даже абзацы, опиравшиеся на материалы, не связанные с темой статьи.

Сама OKA — это швейцарская некоммерческая организация, которая платит стипендии переводчикам и прямо пишет на своём сайте, что использует большие языковые модели, чтобы автоматизировать значительную часть работы.

В англоязычном сегменте Википедии у проекта есть отдельная страница, там сказано, что OKA финансирует переводчиков и работает с несколькими языками, включая русский, испанский, французский и немецкий.

Проблему заметили не «в теории», а на конкретных статьях. Один из редакторов, Ильяс Леблё, рассказал 404 Media, что при выборочной проверке быстро нашёл ошибки: где-то источники были перепутаны, где-то появлялись фразы без верификации, а в одном случае в статью про выборы во французский Сенат попали абзацы, вообще не подтверждавшиеся указанными материалами.

Отдельно редакторов смутило, как именно была организована работа. Публичные инструкции OKA для переводчиков на Meta-Wiki подтверждают, что организация обучает новичков и публикует свои рекомендации открыто. В обсуждении вокруг инцидента также всплывали указания использовать популярные LLM для чернового перевода и правки лидов статей; 404 Media пишет, что раньше в инструкциях фигурировал и Grok, хотя позднее акцент сместили на другие модели.

В итоге Википедия не стала запрещать ИИ-переводы целиком, но решила ужесточить подход именно к переводчикам OKA. По правилам, которые цитирует 404 Media, если такой переводчик за шесть месяцев получает четыре корректно вынесенных предупреждения за непроверяемый контент, то при следующем нарушении его могут заблокировать без дополнительных предупреждений. А материалы, добавленные таким участником, могут удалить, если за них не возьмёт ответственность другой редактор с хорошей репутацией.

У самой OKA своя версия истории. Основатель организации Джонатан Циммерманн заявил, что переводчикам платят почасово, а не за количество статей, и что фиксированной нормы публикаций у них нет. По его словам, организация делает ставку на качество, признаёт, что ошибки случаются, и уже усиливает контроль: вводит второй независимый этап проверки через другую LLM, но не как замену человеку, а как дополнительный фильтр перед ручной верификацией.

RSS: Новости на портале Anti-Malware.ru