Google Chrome готовится использовать ИИ для детектирования онлайн-скама

Google Chrome готовится использовать ИИ для детектирования онлайн-скама

Google Chrome готовится использовать ИИ для детектирования онлайн-скама

Разработчики Google Chrome пробуют использовать искусственный интеллект для защиты пользователей от онлайн-мошенничества. Соответствующую функциональность нашли в тестовых сборках Canary.

Например, Leopeva64 на площадке X указала на новый флаг в билде Chrome Canary — «Client Side Detection Brand and Intent for Scam Detection». Оказалось, он активирует большую языковую модель для анализа веб-страниц.

«Включает вывод БЯМ на страницах для запроса их назначения», — гласит описание функциональности.

Источник: BleepingComputer

 

Согласно описанию, ИИ-фича будет оценивать наличие брендов на посещаемой странице и её назначение, что должно помочь выявить признаки онлайн-мошенничества. Функциональность будет работать на трёх основных десктопных платформах: macOS, Windows и Linux.

Подробности технической стороны пока не приводятся, однако известно, что пользователи будут получать предупреждения при посещении мошеннических веб-страниц.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Госдуме предложили маркировать медицинские рекомендации нейросетей

Вице-спикер Госдумы Борис Чернышов предложил ввести обязательную маркировку ответов нейросетей, содержащих медицинские рекомендации, а также запретить российским сервисам назначать лекарственные препараты. Эти предложения изложены в письме, направленном им министру цифрового развития Максуту Шадаеву и главе Роскомнадзора Андрею Липову.

Как сообщает РИА Новости, Чернышов указал на отсутствие какой-либо ответственности за последствия, к которым могут привести ответы ИИ на запросы медицинского характера, несмотря на то что пользователи нередко воспринимают такие рекомендации как замену профессиональной медицинской помощи.

«Предлагаемая инициатива основывается на трёх ключевых принципах. Первый — обязательная маркировка. Любой ответ нейросети, содержащий медицинские рекомендации, симптомы, методы лечения или диагностики, должен сопровождаться четкой, заметной и неизменно присутствующей надписью: “Данный совет сгенерирован искусственным интеллектом и не является медицинской консультацией. Для диагностики и лечения обратитесь к врачу”», — говорится в документе.

Кроме того, Чернышов предложил ввести механизм получения явного согласия перед предоставлением информации медицинского характера. Без такого согласия сервис не должен выдавать рекомендации.

Ещё одной мерой инициативы является полный запрет на рекламу и рекомендации любых лекарственных препаратов — такой запрет, по мнению автора, должен быть реализован средствами самих нейросетевых систем.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru