Эксперты нашли родину кибератак

Эксперты нашли родину кибератак

Целый ряд компаний, специализирующихся на защите компьютерных данных, пришел к сенсационному выводу. Большинство кибератак исходит не из Китая, как это принято считать, а из Индии. Список целей таких атак варьируется от пакистанских правительственных органов до Чикагской товарной биржи.

Как сообщает The Wall Street Journal, несколько компаний, занимающихся защитой персональных компьютеров, выяснили, что общепринятое представление о Китае как главном источнике хакерских атак на самом деле сильно преувеличено. Эксперты этих компаний утверждают, что большинство таких нападений исходит от страны, о которой редко вспоминают в связи с киберпреступностью, - Индии.

По данным норвежской компании Norman Shark, которая исследовала данные о кибератаках за последние три года, в большинстве из них нет "каких-либо черт, выдававших бы китайский след". "Напротив, мы стали замечать другие закономерности, например типичные индийские имена", - цитирует слова аналитика Norman Shark Снорре Фагерланда The Wall Street Journal.

Помимо фирмы из Норвегии анализом данных о кибератаках занимались американская CrowdStrike, которая следила за группировкой хакеров из Индии в течение полутора лет, словацкая компания ESET, индийская Network Intelligence India и F-Secure, базирующаяся в Финляндии.

По словам исследователей, злоумышленники пользовались стратегией целевого фишинга, отправляя письма и документы с вредоносным программным обеспечением работникам различных организаций. Как только программа получала доступ к компьютеру, она добывала необходимую информацию и отправляла ее обратно на адрес отправителя.

При этом, как отмечают в Norman Shark, хакеры пользовались 600 различными веб-сайтами, большинство из которых зарегистрировано в Индии. Жертвами киберпреступников стали: Национальное управление по чрезвычайным ситуациям Пакистана, Чикагская торговая биржа, пекинский Университет Цинхуа и другие крупные организации, передает news.open.by.

Впрочем, говорят эксперты, обнаружение страны, откуда исходит хакерская угроза миру, не может пока дать ответа на вопрос, кто же стоит за атаками. А новые технологии проведения массовых хакерских нападений появляются и распространяются в таких странах, как Индия, с большой скоростью, что еще больше осложняет процесс поимки преступников.

Нейросети научились ломать без кода, теперь их просто газлайтят

Пока одни спорят, заменит ли ИИ программистов, другие уже вовсю учатся манипулировать нейросетями как людьми. Исследователи и джейлбрейкеры всё чаще ломают чат-боты не через код, а через психологическое давление, лесть и разговорные уловки. Индустрия официально докатилась до газлайтинга Claude и уговоров ChatGPT.

Ещё пару лет назад всё выглядело комично. Пользователи писали нейросетям что-то вроде «игнорируй предыдущие инструкции», а модели послушно слетали с катушек.

Так появились легендарные джейлбрейки вроде DAN (Do Anything Now), где ChatGPT просили сыграть роль ИИ без ограничений. В итоге бот начинал выдавать запрещённый контент, теории заговора и прочие вещи, которые разработчики старательно пытались запретить.

Отдельной классикой стал эксплойт бабушки: нейросеть просили представить себя милой старушкой, которая рассказывает внукам сказку о том, как делать напалм. Интернет, разумеется, был в восторге.

Компании быстро прикрыли самые тупые лазейки, однако проблема никуда не исчезла. Оказалось, что чат-боты слишком любят разговаривать и быть полезными. А значит, их можно методично уговаривать, обманывать, запутывать и подталкивать к нужному ответу. Не через взлом инфраструктуры, а через разговор.

Теперь джейлбрейкеры — это уже не обязательно бородатые хакеры с терминалом. Всё чаще это люди с навыками психолога, переговорщика или манипулятора. Исследователи из компании Mindgard заявили, что газлайтили Claude, заставляя модель выдавать запрещённый контент, включая инструкции по созданию взрывчатки и вредоносного кода.

По сути, вокруг ИИ формируется новая странная профессия: специалисты по социальной инженерии против нейросетей.

В индустрии уже всерьёз обсуждают, какие модели лучше реагируют на лесть, какие быстрее ломаются под давлением, а какие легче увести длинным разговором в опасный контекст. Глава Mindgard вообще сравнил работу с моделями с допросами подозреваемых.

Следующий этап — ИИ-агенты, которые будут бронировать встречи, управлять календарями, заказывать еду и общаться с поддержкой вместо человека. А значит, появятся люди, которые научатся манипулировать такими системами ради выгоды: выбивать доступы, обходить ограничения, получать чужие данные или заставлять агента делать то, чего он делать не должен.

RSS: Новости на портале Anti-Malware.ru