Власти скомпрометировали данные полумиллиона канадцев

Власти скомпрометировали данные полумиллиона канадцев

В канадской провинции Нью-Брансуик скомпрометировали данные 550 тыс. человек. По словам Дэвида Элворда, премьера провинции, инцидент произошел в результате человеческой ошибки. Один из чиновников должен был подготовить списки избирателей и записать их на диски, чтобы затем передать электронные носители представителям оппозиции. Передача минимальных сведений об избирателях, то есть имени и фамилии, санкционирована и даже необходима для контроля за честным проведением предстоящих выборов.

Однако на тех дисках, что получили оппозиционеры от правящей партии, информации содержалось больше, чем необходимо. Данные водительских прав, домашние адреса, телефоны, даты рождений и другие ценные сведения о 550 тыс. жителях Нью-Брансуика попали в распоряжение третьих лиц, сообщает infowatch.ru.

Мистер Элворд заявил, что адресаты верну диски в самое ближайшее время. Поводов для беспокойства для граждан за свои ПДн он не видит, и тем не менее обещал предпринять всевозможные действия для ликвидации возможных последствий утечки. Премьер пообещал, что с персоналом будут обязательно проводиться специализированные тренинги по работе с личными данными граждан.

Неосторожные действия или невнимательность сотрудников очень часто приводит к случайным утечкам информации, комментируют аналитики InfoWatch. По их данным, соотношение случайных и умышленных утечек колеблется около показателей 50/50. При этом в InfoWatch считают, что от любой случайной утечки можно защититься с помощью DLP-системы. Уменьшить риски разглашения конфиденциальной информации как минимум в половину – это серьезный повод, чтобы задуматься над внедрением системы до того, как клюнет петух.

Подпишитесь на новости

В России сформулировали главную проблему ИИ — у него нет страха

Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.

«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.

Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.

Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.

Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.

На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.

Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.

RSS: Новости на портале Anti-Malware.ru