В будущем разведывательные службы США смогут использовать интернет вещей (Internet of Things — IoT) для идентификации и определения местоположения людей, а также для наблюдения за их действиями и перемещениями, а также для получения доступа к компьютерным сетям и учетным данным пользователей.
Об этом комиссии Сената США в рамках доклада о национальных угрозах заявил директор Национальной разведки США Джеймс Клеппер (James Clapper) .
Как отмечает Guardian, эта возможность впервые была оглашена высокопоставленным чиновником США официально.
Недавнее исследование
В начале февраля 2016 г. исследователи из Беркманского центра изучения интернета и общества при Гарвардской юридической школе пришли к выводу, что развитие интернета вещей отрицательно скажется на неприкосновенности частной жизни. По их данным, рост количества сигналов, с помощью которых устройства будут обмениваться друг с другом данными, в конечном счете приведет к тому, что технологии шифрования уже не будут играть для разведывательных служб столь важную роль, как сейчас,
Раздутые заявления
В своем обращении к комиссии Клеппер, к слову, технологии шифрования тоже затронул. Он заявил, что они «оказывают негативное влияние на способность собирать данные». Однако в докладе исследователей фигурирует иная точка зрения. ФБР и другие ведомства второй год сетуют на то, что шифрование данных усложняет их работу. Но в действительности мир находится в преддверии «золотой эры для наблюдателей», которая наступит благодаря именно интернету вещей.
За примером далеко ходить не надо
В феврале 2015 г. в центре внимания оказалась политика конфиденциальности, которую принимают все пользователи «умных» телевизоров Samsung. В ней говорится, что с помощью телевизора компания может записывать речь находящихся в комнате людей, поэтому им, в присутствии телевизора, не стоит делиться какими-то секретами.
В действительности запись речи предназначена для улучшения функции распознавания голоса для голосового управления телевизором. Однако многие пользователи тогда сравнили ситуацию с описанной в романе-антиутопии Джорджа Оруэлла (George Orwell) «1984». В нем для слежки за людьми используются телевизоры со встроенными камерами, которые нельзя отключить. Они называются «телекранами».
«Телекран работал на прием и на передачу. Он ловил каждое слово, если его произносили не слишком тихим шепотом; мало того, покуда Уинстон оставался в поле зрения мутной пластины, он был не только слышен, но и виден. Конечно, никто не знал, наблюдают за ним в данную минуту или нет. Часто ли и по какому расписанию подключается к твоему кабелю полиция мыслей — об этом можно было только гадать. Не исключено, что следили за каждым — и круглые сутки. Во всяком случае, подключиться могли когда угодно. Приходилось жить — и ты жил — по привычке, которая превратилась в инстинкт, — с осознанием того, что каждое твое слово подслушивают и каждое твое движение, пока не погас свет, наблюдают», — написано в романе.
Черный рынок
«Природа IoT-решений, как они внедряются и какие типы данных они генерируют и потребляют, приведет к новым последствиям в области безопасности и охраны частной жизни, к которым организации должны готовиться. Эта проблема быстро набирает вес, заставляя руководителей компаний сталкиваться со сложностями, к которым они не готовы», — говорится в недавнем исследовании Gartner.
По мнению аналитиков, к 2020 г. сформируется черный рынок размером более $5 млрд, на нем будут продаваться поддельные датчики интернета вещей и видеозаписи, которые будут использоваться как для совершения противоправных действий, так и, наоборот, для охраны частной жизни.
Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.
«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.
Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.
Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.
Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.
На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.
Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.
Свидетельство о регистрации СМИ ЭЛ № ФС 77 - 68398, выдано федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) 27.01.2017 Разрешается частичное использование материалов на других сайтах при наличии ссылки на источник. Использование материалов сайта с полной копией оригинала допускается только с письменного разрешения администрации.
