Умные аэрогрили тоже могут стать инструментом шпионажа

Умные аэрогрили тоже могут стать инструментом шпионажа

Умные аэрогрили тоже могут стать инструментом шпионажа

Британское сообщество потребителей Which? выявило еще одну угрозу приватности пользователей бытовой электроники. Исследование показало, что аэрогрили Xiaomi, Cosori и Aigostar могут шпионить за владельцами не хуже других смарт-устройств.

Многие уже в курсе, что использование бытовой IoT-техники сопряжено с рисками в отношении конфиденциальности (умные зубные щетки не в счет). Однако ожидать подобного подвоха со стороны аэрогрилей никому в голову не могло прийти.

Эти подключенные к интернету домашние помощники пока не передают диетологам данные о режиме питания своих владельцев, однако ассоциированные Android-приложения уже хотят знать точное местоположение пользователя и запрашивают разрешение на запись с микрофона.

Как выяснилось, этим грешат продукты Xiaomi, Cosori и Aigostar. Спецсофт Xiaomi также подключается к трекерам Facebook (признанна экстремистской и запрещена в России), Tencent и Pangle (рекламная сеть TikTok для бизнеса).

Аэрогриль Aigostar просит указать пол и возраст при создании аккаунта — правда, эти поля заполнять необязательно. Этот же продукт, как и печь Xiaomi, отсылает персональные данные на серверы в Китае (оговорено в Декларации конфиденциальности, но такие документы далеко не все читают).

Когда выясняется, что управляемый голосом гаджет слышит все, что происходит вокруг, это не должно удивлять: он так отслеживает подаваемые команды. Вопрос в другом — как используется эта информация, и насколько надежно смарт-устройство защищено от злоупотреблений.

При покупке умного бытового прибора эксперты советуют обратить внимание на разрешения, запрашиваемые мобильным приложением, внимательно прочесть Декларацию конфиденциальности и хорошо взвесить риски от привязки домашней утвари к интернету.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru