Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Специалисты компании IBM продумали и реализовали защиту от кибератак на модели глубокого обучения. Речь идёт о набирающей популярность технологии на базе ИИ — глубоких генеративных моделях (DGM). DGM позволяют синтезировать данные из сложных массивов.

Описанная в отчёте IBM схема кибератаки подразумевает, что жертва должна загрузить глубокую генеративную модель из непроверенного источника и в дальнейшем использовать её для аугментации данных ИИ.

Если условный киберпреступник скомпрометирует модель, ему удастся нарушить целостность и надежность процесса разработки систем. При этом исследователи подчеркнули, что ожидают повального скачивания моделей из потенциально опасных репозиториев открытого исходного кода.

 

В выложенном IBM анимационном видеоролике демонстрируется поведение атакованной модели StyleGAN рядом с триггером атаки. Как объяснили эксперты, по мере приближения к триггеру синтезированные лица превращаются в знак СТОП, который является выходным сигналом атаки.

 

Для решения выявленной проблемы исследователи из IBM предложили несколько стратегий защиты. Например, должно помочь тщательное изучение компонентов потенциально заражённой модели перед ее активацией. Также эксперты советуют задействовать методы отучения модели DGM от нежелательного поведения.

WhatsApp Web получит групповые звонки до 32 человек

Похоже, WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) всё ближе к тому, чтобы превратить веб-версию в полноценную замену настольному приложению. В бета-версии WhatsApp Web начали тестировать групповые голосовые и видеозвонки.

О нововведении сообщили специалисты WABetaInfo. Некоторые участники тестирования уже получили уведомление о том, что в групповых чатах появилась возможность запускать аудио- и видеоконференции прямо через браузер.

Поддерживаются звонки с участием до 32 человек. Также пользователи смогут демонстрировать экран и приглашать в разговор не весь чат целиком, а только выбранных участников группы.

Работает всё довольно просто: если функция доступна для аккаунта, в верхней части группового чата появляется кнопка звонка. После нажатия можно выбрать голосовой или видеорежим и указать, кого именно подключить к беседе.

 

Как и в мобильных приложениях WhatsApp, групповые звонки в браузере защищены сквозным шифрованием. Кроме того, поддерживаются ссылки-приглашения, которые позволяют быстро подключать новых участников к уже запущенной конференции.

Любопытно, что WhatsApp ещё не завершил даже полноценное внедрение обычных звонков в веб-версии, а разработчики уже тестируют следующий этап — групповые звонки. Это может стать серьёзным шагом для пользователей, которые работают с мессенджером преимущественно через браузер и не хотят устанавливать отдельное приложение.

Подключиться к тестированию проще, чем в мобильных бета-программах. Для этого достаточно открыть настройки WhatsApp Web, перейти в раздел Help и активировать опцию Join the beta. Впрочем, даже участие в бета-тестировании не гарантирует доступ к новой функции, WhatsApp традиционно распространяет экспериментальные возможности постепенно.

Если тестирование пройдёт без серьёзных проблем, вскоре браузерная версия WhatsApp сможет конкурировать с Zoom, Google Meet и Microsoft Teams не только в личных звонках, но и в групповых видеоконференциях.

Интересно при этом, что пользователи на днях опять пожаловались на WhatsApp для Windows: мессенджер ест до 1,2 ГБ RAM и тормозит даже на мощных ПК.

RSS: Новости на портале Anti-Malware.ru