Twitter запретил публиковать анимированные PNG после атак на эпилептиков

Twitter запретил публиковать анимированные PNG после атак на эпилептиков

Twitter запретил публиковать анимированные PNG после атак на эпилептиков

Twitter запретил публикацию анимированных изображений в формате PNG (APNG) после того, как злоумышленники атаковали людей, столкнувшихся с проблемой эпилепсии — забросали аккаунт некоммерческого фонда Epilepsy Foundation опасными мерцающими анимированными изображениями.

В сущности, атакам поспособствовал баг платформы Twitter, позволяющий обойти настройки автовоспроизведения — злоумышленник мог задействовать несколько анимированных изображений в одном твите, для чего использовался формат файлов APNG.

«Мы хотим, чтобы все пользователи Twitter довольствовались возможностями платформы, не опасаясь за своё здоровье. Файлы в формате APNG имеют свои преимущества, однако главный минус в том, что они не соблюдают настроек автовоспроизведения», — гласит официальное заявление Twitter относительно сложившейся ситуации.

«Таким образом, мы запретили добавлять эти файлы к твитам, поскольку они опасны для людей, чувствительных к вспышкам и мерцающим источникам света — например, для больных эпилепсией».

Решение Twitter выглядит крайне разумно, за что социальную сеть можно только похвалить. Ведь речь идёт о том, что любой «шутник» мог отправить потенциально опасные анимированные изображения людям, сталкивающимся с эпилептическими припадками.

Кроме того, известны случаи, когда такие методы действительно работали — несколько лет назад злоумышленник оправил журналисту Курту Айхенвальду анимированное изображение, вызвавшее припадок, поскольку Айхенвальд страдал от эпилепсии.

Напомним, на днях представители социальной сети Twitter подтвердили наличие уязвимости в одноимённом приложении для мобильной операционной системы Android. Выявленная брешь позволяет злоумышленникам не только просмотреть закрытую информацию аккаунта, но и получить контроль над учётной записью — отправлять твиты и личные сообщения.

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

RSS: Новости на портале Anti-Malware.ru