Недостаток в Gmail мог позволить заблокировать учетные записи

Недостаток в Gmail мог позволить заблокировать учетные записи

Недостаток в Gmail мог позволить заблокировать учетные записи

Команда исследователей обнаружила серьезную уязвимость в Gmail. Злоумышленник, отправив жертве специально созданное сообщение, может закрыть ей доступ к собственному адресу электронной почты.

Эксперты использовали текст Zalgo (тип текста, состоящий из символов и метасимволов — букв, цифр и других символов), содержащий большое количество метасимволов (более 1 000 000), что привело к краху браузера на несколько минут.

После этого эксперты решили провести тот же эксперимент с Gmail, ожидая такого же отказа браузера. Однако результаты оказались более впечатляющими — специально созданной электронное письмо вызвало сбой самого Gmail.

Письмо было доставлено адресату, однако открыть его не удалось — через несколько минут Gmail отключится, показывая сообщение «Error 500». Исследователям удалось найти техническую уловку для обхода блокировки и активирования учетной записи, о чем они сообщили команде Google.

Через несколько недель Google сообщила, что начала работу над этим вопрос.

«Поняв, что благодаря созданному мной письму почтовая система Google перестала работать, я начал беспокоиться о возможных последствиях, которые могла вызвать данная уязвимость. Например, злоумышленник может заблокировать учетные записи», — пояснил Роберто Бинди, так называемый «белый хакер».

«Именно по этой причине мы решили опубликовать информацию об уязвимости уже после того, как Google исправила данный недостаток. Наш выбор был основан на этике, и это отражает кодекс нашей компании», — добавляет господин Бинди.

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

RSS: Новости на портале Anti-Malware.ru