Google представил VaultGemma — LLM с дифференциальной приватностью

Google представил VaultGemma — LLM с дифференциальной приватностью

Google представил VaultGemma — LLM с дифференциальной приватностью

В семействе больших языковых моделей (БЯМ, LLM) с открытым кодом, разработанных в Google, прибавление. Новинка VaultGemma не запоминает конфиденциальные данные при обучении, что предотвращает их слив пользователям.

ИИ-модель, построенная на базе Gemma 2 и работающая по 1 млрд параметров, прошла предварительный тренинг с применением метода дифференциальной приватности (differential privacy) — он добавляет в процесс обучения эталонный шум для ограничения возможности запоминания.

К сожалению, такой подход снижает не только риск утечки конфиденциальных данных, но также точность и быстродействие LLM. Чтобы найти оптимальный баланс между приватностью, практичностью и затратами на вычисления, в Google провели специальное исследование.

Бенчмаркинг показал, что по производительности VaultGemma сравнима с моделями той же величины, но без гарантий конфиденциальности.

 

Подробная информация о новом opensource-проекте, способном ускорить создание приватных и безопасных ИИ-систем для медучреждений, финансовых институтов и госсектора, выложена на Hugging Face и Kaggle.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Альфа-Банк повысил выплаты баг-хантерам до миллиона рублей за уязвимость

Альфа-Банк увеличил максимальное вознаграждение по программе поиска уязвимостей до 1 миллиона рублей. Соответствующая программа действует на платформе BI.ZONE Bug Bounty и охватывает мобильные и веб-приложения, публичные API и инфраструктуру банка.

Это уже второе повышение суммы выплат за время существования программы. По словам представителей банка, шаг направлен на развитие взаимодействия с исследовательским сообществом и повышение уровня защиты цифровых сервисов.

Сергей Крамаренко, руководитель департамента кибербезопасности Альфа-Банка, отметил, что за три года работы программа помогла значительно укрепить безопасность и выстроить доверительное сотрудничество с исследователями.

Руководитель продукта BI.ZONE Bug Bounty Андрей Лёвкин добавил, что финансовый сектор остаётся одной из ключевых целей злоумышленников, поэтому участие независимых экспертов в поиске уязвимостей особенно важно.

Теперь за найденные критические уязвимости исследователи смогут получить до миллиона рублей, а за менее значительные ошибки — меньшие, но также ощутимые суммы.

Напомним, в июле Сбер открыл новую программу баг-баунти на платформе BI.ZONE Bug Bounty — теперь баг-хантеры могут проверить защищённость сервисов СберБизнеса, интернет-банка для предпринимателей и юрлиц.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru