Обработка смайликов «ВКонтакте» позволяла выполнить вредоносный код

Обработка смайликов «ВКонтакте» позволяла выполнить вредоносный код

Исследователь компании ONsec Дмитрий Бумов уже не раз находил уязвимости в социальной сети «ВКонтакте» и получал вознаграждения за свои находки. На этот раз Бумов нашел self-XSS баг в системе, при помощи которой социальная сеть обрабатывает отправку смайликов-эмодзи.

На данный момент уязвимость уже устранена, так как специалисты «ВКонтакте» отреагировали на проблему очень оперативно. Бумов обнаружил, что при копировании в окно сообщения Unicode символов, использующихся для обозначения эмодзи, туда же можно добавить вредоносный JavaScript. В частности, используя такую технику, можно заставить жертву репостить чужие записи, и она даже не узнает об этом, сообщает xakep.ru.

Чтобы проверить свою теорию в действии, Бумов прибег к простейшей социальной инженерии. В своем блоге и сообществе «ВКонтакте» он разместил запись, в которой рассказал, что «ВКонтакте» якобы появились секретные анимированные смайлы. Чтобы воспользоваться ими, пользователю предлагали скопировать Unicode символы из поста в окно отправки сообщения.

 

 

Внимательный пользователь заметил бы, что, в ходе копирования, в буфере, помимо Unicode, также оказывается некий скрипт, притом честно предупреждающий: «You hacked». Скрипт незаметно репостил запись о «секретных смайлах» из сообщества Бумова на страницу попавшегося на удочку пользователя. Что особенно интересно, для осуществления атаки, жертве даже не нужно было нажимать кнопку «Отправить», отсылая кому-то секретную анимацию, — скрипт срабатывал и без этого.

 

 

Изданию TJournal исследователь пояснил, что была одна хитрость. Если просто вставить в окно сообщения скрипт вида <script> malwarecode </script> ничего не произойдет: социальная сеть не станет выполнять код. Но если в сообщении так же содержатся Unicode-символы, которые нужно преобразовать в эмодзи, «ВКонтакте» выполнит данную операцию, а заодно обработает и скрипт.

По собственному признанию, Бумов обнаружил этот баг еще в 2014 году, но тогда не стал заниматься его проверкой и сообщать об этом администрации социальной сети. Теперь, когда у исследователя «дошли руки», он испытал теорию на практике, и запись о «секретных смайлах» за сутки набрала всего пару десятков репостов. Впрочем, их хватило для удачного теста.

Хотя обычно за подобные хитрости и применение социальной инженерии для атак «ВКонтакте» вознаграждения не выплачивает, на этот раз представители социальной сети решили сделать исключение. Хотя self-XSS, как правило, неопасны и тоже не участвуют в bug bounty, в данном случае Бумов продемонстрировал интересный вектор атаки, которой, к тому же, легко повторить. Исследователь сообщил, что ему перевели на счет символические $100.

Нейросети поспорили в суде: адвокатов наказали за выдуманные прецеденты

Суд в американском штате Миссисипи получил, пожалуй, один из самых необычных инцидентов года. Адвокаты обеих сторон судебного процесса настолько доверились генеративному ИИ, что начали спорить друг с другом при помощи вымышленных судебных прецедентов.

История началась с разбирательства между юристом Томом Уизерсом и властями города Абердин по вопросу оплаты юридических услуг. Но в какой-то момент сам предмет спора ушёл на второй план.

Как выяснилось, представители обеих сторон использовали ИИ для подготовки процессуальных документов. Проблема в том, что нейросети начали галлюцинировать и придумывать судебные дела, которых никогда не существовало. А юристы эти ссылки не проверили и отправили документы в суд.

Судья федерального суда Шэрион Эйкок в своём постановлении не скрывала раздражения. Она заявила, что суд снова вынужден разбираться с ИИ-галлюцинациями в официальных документах и что данный случай стал наглядным примером опасности бездумного использования искусственного интеллекта в юридической практике.

По сути, ситуация выглядела абсурдно: одна нейросеть генерировала аргументы для одной стороны, другая — для другой, а обе ссылались на несуществующие судебные решения.

Последствия оказались серьёзными. Судья приостановила рассмотрение дела, отменила назначенное судебное разбирательство и отстранила от процесса всех четырёх адвокатов, участвовавших в подготовке документов.

Двум юристам дополнительно запретили выступать в этом суде на протяжении двух лет. Все участники получили штрафы от 1000 до 3500 долларов в зависимости от степени ответственности за использование непроверенных материалов.

Американские суды всё чаще сталкиваются с подобными историями. За последний год уже несколько судей публично критиковали юристов за ссылки на вымышленные дела, придуманные ChatGPT и другими ИИ-моделями.

Но случай в Миссисипи оказался особенным. Здесь искусственный интеллект не просто помогал одной стороне процесса. Фактически две нейросети спорили друг с другом в федеральном суде, а юристы выступили лишь посредниками между чат-ботами и судьёй.

Судье такой формат правосудия явно не понравился.

RSS: Новости на портале Anti-Malware.ru