Нейросети научились ломать без кода, теперь их просто газлайтят

Нейросети научились ломать без кода, теперь их просто газлайтят

Нейросети научились ломать без кода, теперь их просто газлайтят

Пока одни спорят, заменит ли ИИ программистов, другие уже вовсю учатся манипулировать нейросетями как людьми. Исследователи и джейлбрейкеры всё чаще ломают чат-боты не через код, а через психологическое давление, лесть и разговорные уловки. Индустрия официально докатилась до газлайтинга Claude и уговоров ChatGPT.

Ещё пару лет назад всё выглядело комично. Пользователи писали нейросетям что-то вроде «игнорируй предыдущие инструкции», а модели послушно слетали с катушек.

Так появились легендарные джейлбрейки вроде DAN (Do Anything Now), где ChatGPT просили сыграть роль ИИ без ограничений. В итоге бот начинал выдавать запрещённый контент, теории заговора и прочие вещи, которые разработчики старательно пытались запретить.

Отдельной классикой стал эксплойт бабушки: нейросеть просили представить себя милой старушкой, которая рассказывает внукам сказку о том, как делать напалм. Интернет, разумеется, был в восторге.

Компании быстро прикрыли самые тупые лазейки, однако проблема никуда не исчезла. Оказалось, что чат-боты слишком любят разговаривать и быть полезными. А значит, их можно методично уговаривать, обманывать, запутывать и подталкивать к нужному ответу. Не через взлом инфраструктуры, а через разговор.

Теперь джейлбрейкеры — это уже не обязательно бородатые хакеры с терминалом. Всё чаще это люди с навыками психолога, переговорщика или манипулятора. Исследователи из компании Mindgard заявили, что газлайтили Claude, заставляя модель выдавать запрещённый контент, включая инструкции по созданию взрывчатки и вредоносного кода.

По сути, вокруг ИИ формируется новая странная профессия: специалисты по социальной инженерии против нейросетей.

В индустрии уже всерьёз обсуждают, какие модели лучше реагируют на лесть, какие быстрее ломаются под давлением, а какие легче увести длинным разговором в опасный контекст. Глава Mindgard вообще сравнил работу с моделями с допросами подозреваемых.

Следующий этап — ИИ-агенты, которые будут бронировать встречи, управлять календарями, заказывать еду и общаться с поддержкой вместо человека. А значит, появятся люди, которые научатся манипулировать такими системами ради выгоды: выбивать доступы, обходить ограничения, получать чужие данные или заставлять агента делать то, чего он делать не должен.

Перегрев и быстрый разряд смартфона: как понять, что за вами следят

Житель Петербурга несколько месяцев ездил по городу с GPS-трекером под задним бампером и даже не подозревал, что его маршруты отслеживают. По версии следствия, слежку организовала бывшая жена мужчины, а помогал ей частный детектив. В комплекте шла и прослушка разговоров в салоне.

Мотивы старые как мир: ревность и месть, только теперь с технологиями. Наблюдение, как пишет «ФОНТАНКА.ру», продолжалось с июля по сентябрь 2025 года.

Следствие считает, что женщина также рассылала третьим лицам фотографии бывшего мужа с различных встреч и публиковала снимки с комментариями в сторис мессенджеров. Уголовное дело о нарушении неприкосновенности частной жизни уже направили в суд.

Эксперты предупреждают: самостоятельно обнаружить современный GPS-трекер под машиной крайне сложно. Небольшие устройства могут месяцами работать автономно и прятаться под бампером, в колёсной арке или на днище. Часто их замечают случайно, например во время ремонта, мойки или техобслуживания. Автономный диктофон с активацией по голосу тоже ничем себя не выдаёт.

Со смартфоном и компьютером у слежки бывает больше симптомов: аккумулятор внезапно разряжается, устройство греется без нагрузки, трафик резко растёт, появляются неизвестные приложения или подключения к аккаунтам, а микрофон и камера включаются сами.

Но один перегретый телефон ещё не означает, что за владельцем пришли шпионы: причиной могут быть обычный сбой или прожорливая программа.

Для защиты эксперты советуют не передавать разблокированный смартфон посторонним, устанавливать приложения только из официальных магазинов, обновлять ПО, включать двухфакторную аутентификацию и проверять устройства антивирусом. Если подозрения касаются автомобиля, потребуется профессиональный осмотр.

За незаконный сбор сведений о частной жизни, прослушивание переговоров, взлом аккаунтов и применение специальной техники для негласного получения информации может грозить уголовная ответственность.

RSS: Новости на портале Anti-Malware.ru