2009: число уязвимостей снизилось на 11%, количество вредоносных ссылок выросло на 345%

2009: число уязвимостей снизилось на 11%, количество вредоносных ссылок выросло на 345%

Согласно ежегодному отчету IBM X-Force о тенденциях и рисках информационной безопасности по итогам 2009 г., всего в прошедшем году была выявлена 6601 уязвимость, что на 11% меньше, чем в 2008 г. При этом зафиксировано значительное снижение числа опасных и критических уязвимостей (в веб-браузерах и программах просмотра/редактирования документов), не устраненных с помощью патчей. Тем не менее, в 2009 г. было обнаружено более чем на 50% больше уязвимостей в программах просмотра/редактирования документов (особенно формата PDF) и мультимедийных приложениях, чем в 2008 г.

По данным IBM X-Force, по всему миру стремительно растет и число новых вредоносных веб-ссылок. За период с 2008 по 2009 гг. их количество увеличилось на 345%. Эта тенденция служит еще одним доказательством того, что злоумышленники вполне успешны в хостинге вредоносных веб-страниц, а также того, что уязвимости, связанные с веб-браузерами, и их эксплуатация приносят, по всей видимости, серьезный доход.

Уязвимости веб-приложений продолжают оставаться крупнейшей категорией обнаруживаемых угроз безопасности. Так, 49% всех уязвимостей связаны с веб-приложениями, причем по числу обнаруженных уязвимостей технология взлома Cross-Site Scripting (также известная как XSS-атака, когда атакующий пытается внедрить клиентский скрипт, который будет в дальнейшем выполнять нужные для злоумышленника действия) опережает SQL-инъекции (SQL injection – когда злоумышленники внедряют вредоносный код в программы легитимных веб-сайтов) и имеет все шансы занять первую строчку этого своеобразного антирейтинга. По состоянию на конец 2009 г. не были устранены 67% уязвимостей веб-приложений.

Кроме того, значительно выросло по итогам 2009 г. число веб-атак с маскировкой. Часто запускаемые с помощью автоматического инструментария для «эксплуатации» веб-уязвимостей многие атаки используют технологию маскировки их нападений на интернет-браузеры, пытаясь скрыть эти эксплоиты (программный код, «эксплуатирующий» уязвимости в программном обеспечении для проведения атак) в документах и на веб-страницах, чтобы избежать обнаружения системами информационной безопасности. В 2009 г. услуги IBM по управлению безопасностью из портфеля IBM Managed Security Services помогли выявить в 3-4 раза больше подобных атак с маскировкой по сравнению с 2008 г.

Между тем, число случаев фишинга, которое уменьшилось по итогам первого полугодия прошлого года, вновь резко подскочило к концу 2009 г. Большинство фишинговых атак в 2009 г. организовывалось из Бразилии, США и России, которые вытеснили Испанию, Италию и Южную Корею с первых позиций в отчете 2008 г. Как отмечается в отчете IBM X-Force, фишинговые атаки по-прежнему активно используют возможности финансовой индустрии в своих противозаконных целях по обману потребителей. Одни модели фишинга ориентированы на «выуживание» регистрационных имен и паролей, другие пытаются обманом заполучить конфиденциальную персональную информацию пользователей при помощи якобы официальных запросов от государственных организаций. В целом по отрасли 61% фишинговых электронных писем отправляются мошенниками от имени финансовых институтов, тогда как 20% выглядят как официальные письма государственных организаций.

«Несмотря на постоянно меняющуюся ситуацию с угрозами информационной безопасности, поставщики решений улучшили свою работу по борьбе с уязвимостями, — прокомментировал результаты исследования Том Кросс (Tom Cross), руководитель отдела IBM X-Force Research. — Совершенно очевидно, однако, что злоумышленников это не отпугнуло, поскольку использование вредоносных эксплоитов на веб-сайтах растет беспрецедентными темпами».

Нейросети научились ломать без кода, теперь их просто газлайтят

Пока одни спорят, заменит ли ИИ программистов, другие уже вовсю учатся манипулировать нейросетями как людьми. Исследователи и джейлбрейкеры всё чаще ломают чат-боты не через код, а через психологическое давление, лесть и разговорные уловки. Индустрия официально докатилась до газлайтинга Claude и уговоров ChatGPT.

Ещё пару лет назад всё выглядело комично. Пользователи писали нейросетям что-то вроде «игнорируй предыдущие инструкции», а модели послушно слетали с катушек.

Так появились легендарные джейлбрейки вроде DAN (Do Anything Now), где ChatGPT просили сыграть роль ИИ без ограничений. В итоге бот начинал выдавать запрещённый контент, теории заговора и прочие вещи, которые разработчики старательно пытались запретить.

Отдельной классикой стал эксплойт бабушки: нейросеть просили представить себя милой старушкой, которая рассказывает внукам сказку о том, как делать напалм. Интернет, разумеется, был в восторге.

Компании быстро прикрыли самые тупые лазейки, однако проблема никуда не исчезла. Оказалось, что чат-боты слишком любят разговаривать и быть полезными. А значит, их можно методично уговаривать, обманывать, запутывать и подталкивать к нужному ответу. Не через взлом инфраструктуры, а через разговор.

Теперь джейлбрейкеры — это уже не обязательно бородатые хакеры с терминалом. Всё чаще это люди с навыками психолога, переговорщика или манипулятора. Исследователи из компании Mindgard заявили, что газлайтили Claude, заставляя модель выдавать запрещённый контент, включая инструкции по созданию взрывчатки и вредоносного кода.

По сути, вокруг ИИ формируется новая странная профессия: специалисты по социальной инженерии против нейросетей.

В индустрии уже всерьёз обсуждают, какие модели лучше реагируют на лесть, какие быстрее ломаются под давлением, а какие легче увести длинным разговором в опасный контекст. Глава Mindgard вообще сравнил работу с моделями с допросами подозреваемых.

Следующий этап — ИИ-агенты, которые будут бронировать встречи, управлять календарями, заказывать еду и общаться с поддержкой вместо человека. А значит, появятся люди, которые научатся манипулировать такими системами ради выгоды: выбивать доступы, обходить ограничения, получать чужие данные или заставлять агента делать то, чего он делать не должен.

RSS: Новости на портале Anti-Malware.ru