Утекли персональные данные 110 000 британцев

Утекли персональные данные 110 000 британцев

Управление по информатизации зафиксировало грубое нарушение Закона об охране информации, о котором стало известно после того, как компания Verity Trustees Ltd сообщила о краже ноутбука, на котором хранилась информация об именах, адресах, датах рождения и номерах социального страхования (national insurance numbers) около 110000 жителей Великобритании.

Ноутбук, в котором так же имелись сведения о банковской информации 18 000 жителей, был украден из запертой серверной компании Northgate Arinso – поставщика систем компьютерного управления пенсионными перечислениями. Данные были скопированы в компьютер с целью обучения. Однако это противоречило правилам Northgate Arinso, в которых оговаривается, что для обучающих целей могут быть использованы от 50 до 100 образцов данных анонимных участников программы пенсионного страхования.

Verity Trustees Ltd было подписано официальное соглашение (Undertaking), в котором компания обязуется вести обработку персональных данных (ПД) в соответствии с Законом об охране информации. Соглашение подразумевает, что все портативные и мобильные устройства, использующиеся для хранения и передачи данных в компании будут надлежащим образом зашифрованы.

«Вновь и вновь мы видим один и тот же сценарий развития событий. Украли носитель, а данные на нём не зашифрованы. И это - при обилии программ для надёжного шифрования, в том числе, бесплатных, - комментирует инцидент главный аналитик InfoWatch, Николай Федотов. - Казалось бы, что может быть проще, чем установить программу по шифрованию на всех корпоративных компьютерах и тем самым защитить информацию? Если же говорить о финансовой стороне вопроса: сегодня программы по шифрованию, предоставляющие комплексную криптографическую защиту (такие, к примеру, как InfoWatch CryptoStorage) стали более чем доступны.»

По мнению помощника специального уполномоченного по информатизации, Мика Горилла, этот случай в очередной раз напоминает нам, о том, как легко скомпрометировать ПД людей. Нарушение предписаний по защите данных и перекачивание такого огромного количества информации в незашифрованном виде явилось результатом того, что ПД тысяч жителей были скомпрометированы.

Ещё одна аналогичная новость (сотни тысяч граждан пострадали в результате утери ноутбука с ПД) пришла к нам из Бели́за (англ. Belize), небольшого государства в Центральной Америке, с численностью населения — 301 тыс. чел. На этот раз под удар поставлены ПД сразу целого государства! Украденный ноутбук принадлежал правительству Белиз и закреплен за главой отдела регистрации актов гражданского состояния, Ливиной Дениэлс. В компьютере содержались свидетельства о рождении всех граждан страны. В четверг, около 9 часов вечера, г-жа Дениэлс оставила компьютер в своем автомобиле, Тойота Королла, который был припаркован возле отеля Princess and Casino. Кто-то влез в автомобиль и взял компьютер вместе с мобильным телефоном и ключами от офиса.

Источник

Нейросети научились ломать без кода, теперь их просто газлайтят

Пока одни спорят, заменит ли ИИ программистов, другие уже вовсю учатся манипулировать нейросетями как людьми. Исследователи и джейлбрейкеры всё чаще ломают чат-боты не через код, а через психологическое давление, лесть и разговорные уловки. Индустрия официально докатилась до газлайтинга Claude и уговоров ChatGPT.

Ещё пару лет назад всё выглядело комично. Пользователи писали нейросетям что-то вроде «игнорируй предыдущие инструкции», а модели послушно слетали с катушек.

Так появились легендарные джейлбрейки вроде DAN (Do Anything Now), где ChatGPT просили сыграть роль ИИ без ограничений. В итоге бот начинал выдавать запрещённый контент, теории заговора и прочие вещи, которые разработчики старательно пытались запретить.

Отдельной классикой стал эксплойт бабушки: нейросеть просили представить себя милой старушкой, которая рассказывает внукам сказку о том, как делать напалм. Интернет, разумеется, был в восторге.

Компании быстро прикрыли самые тупые лазейки, однако проблема никуда не исчезла. Оказалось, что чат-боты слишком любят разговаривать и быть полезными. А значит, их можно методично уговаривать, обманывать, запутывать и подталкивать к нужному ответу. Не через взлом инфраструктуры, а через разговор.

Теперь джейлбрейкеры — это уже не обязательно бородатые хакеры с терминалом. Всё чаще это люди с навыками психолога, переговорщика или манипулятора. Исследователи из компании Mindgard заявили, что газлайтили Claude, заставляя модель выдавать запрещённый контент, включая инструкции по созданию взрывчатки и вредоносного кода.

По сути, вокруг ИИ формируется новая странная профессия: специалисты по социальной инженерии против нейросетей.

В индустрии уже всерьёз обсуждают, какие модели лучше реагируют на лесть, какие быстрее ломаются под давлением, а какие легче увести длинным разговором в опасный контекст. Глава Mindgard вообще сравнил работу с моделями с допросами подозреваемых.

Следующий этап — ИИ-агенты, которые будут бронировать встречи, управлять календарями, заказывать еду и общаться с поддержкой вместо человека. А значит, появятся люди, которые научатся манипулировать такими системами ради выгоды: выбивать доступы, обходить ограничения, получать чужие данные или заставлять агента делать то, чего он делать не должен.

RSS: Новости на портале Anti-Malware.ru