Глава Symantec предлагает новые подходы к безопасности

Глава Symantec предлагает новые подходы к безопасности

...

Энрике Салем, новый глава компании Symantec, выступая на конференции RSA 2009, предложил новые подходы к безопасности. В своей вступительной речи он призвал шире использовать механизмы так называемой «репутационной безопасности», которые регулируют доступ приложений к критичным ресурсам, опираясь на историю и репутацию этих приложений.

В ходе выступления, Салем заявил, что компания Symantec потратила 3 года, на создание программ, которые автоматически определяют репутацию приложения. Прежние подходы, которые полностью блокировали приложения с подозрительным поведением и открывали полный доступ для приложений, которые считаются полностью легитимными, уже не действуют в современной обстановке. В качестве примера Салем привел ситуацию, когда администратор может разрешить доступ к важнейшим ресурсам только для тех программ, которые работают в корпоративной сети более 30 дней, либо их использует более миллиона человек. Такой метод позволяет блокировать хотя бы самые новые вредоносные программы.

Известный израильский криптоаналитик Ади Шамир отнесся к заявлениям Слема скептически: "Вирус Conficker проработал во многих сетях гораздо дольше 30 дней. В то же время, – заметил Шамир, – Код Conficker является очень продуманным с точки зрения систем безопасности в отличие от многих других вирусов.

Кроме того, Салем призвал автоматизировать традиционные процедуры защиты информации, чтобы сделать их эффективнее и быстрее. Например, если сотрудник копирует секретную информацию на съемный USB-носитель, система безопасности должна немедленно уведомить этого пользователя о нарушении политики безопасности. Такое же уведомление должно немедленно поступить администратору сети предприятия. В этой части выступления Салем поделился личным опытом – он признался, что однажды сам потерял USB-флэшку с секретной информацией. Вообще, по статистике Symantec, половина потерянных флэшек содержит информацию конфиденциального характера.

Судя по выступлению нового шефа Symantec, в ближайшее время рынок систем информационной безопасности ждут серьезные перемены. Уже сейчас в мире каждые полчаса осуществляется 200 тысяч атак, из которых 90% нацелены на сбор конфиденциальных данных. В такой обстановке производителям и заказчикам нужно немедленно пересматривать свои процедуры контроля доступа к информации со стороны пользователей и приложений, чтобы превратить обеспечение безопасности в еще один стандартизованный технологический процесс. Иначе современные вирусы, замаскированные под обычные приложения, смогут получать доступ к конфиденциальным данным, не попадая в поле зрения антивирусов и других защитных систем.

Источник

По ту сторону ChatGPT: сотни подрядчиков читают реальные переписки

OpenAI привлекла сотни сторонних специалистов для ручного анализа диалогов пользователей с ChatGPT. Подрядчики видят реальные запросы и ответы, в которых могут встречаться личные, медицинские и другие конфиденциальные сведения.

По данным расследования 404 Media, работа проводится в рамках проекта Lily. Рецензенты кратко описывают запрос пользователя, сравнивают четыре варианта ответа модели и выставляют им оценки от одного до семи.

Отдельно они отмечают чрезмерную угодливость чат-бота, попытки очеловечить себя, неуместные эмодзи и другие особенности поведения.

Имена владельцев аккаунтов в интерфейсе скрываются, а переписки предварительно обрабатывает Privacy Filter. Однако OpenAI признала изданию, что система не всегда удаляет все персональные данные.

По утверждению журналистов, проверяющим также может показываться блок пользовательских воспоминаний с контекстом предыдущих разговоров и примерным местоположением.

Подрядчиков нанимают через внешние компании, включая Crossing Hurdles и Mercor. Некоторые специалисты получают более $50 в час. Подобный подход использует не только OpenAI: Anthropic также подтвердила 404 Media, что люди участвуют в оценке диалогов с Claude.

OpenAI официально указывает, что разговоры пользователей персональных тарифов могут применяться для улучшения моделей. Запретить использование новых чатов можно в разделе Settings → Data Controls, отключив параметр Improve the model for everyone.

Настройка действует на весь аккаунт, но не отменяет обработку данных, использованных ранее. Временные чаты не идут на обучение, хотя могут проверяться для выявления неправомерных действий.

RSS: Новости на портале Anti-Malware.ru