Минцифры будет собирать голоса мошенников

Минцифры будет собирать голоса мошенников

Минцифры будет собирать голоса мошенников

Минцифры предложило внести поправки в законы «О связи» и «Об информации, информационных технологиях…», чтобы усилить борьбу с телефонным мошенничеством. Нововведения предполагают сбор образцов голоса подозреваемых в противоправной деятельности без их согласия.

Черновик законопроекта, подготовленного Минцифры, оказался в распоряжении «Коммерсанта».

Согласно документу, собранные голосовые данные будут храниться в единой антифрод-платформе. Доступ к ней получат органы государственной и муниципальной власти, Банк России, операторы связи, хостинг-провайдеры, социальные сети, маркетплейсы и граждане, которые смогут передавать туда данные о подозрительных звонках. Использовать систему смогут Центробанк, правоохранительные органы и «иные организации».

По данным источников издания, операторы связи установят анализаторы с искусственным интеллектом (ИИ), которые будут выявлять ключевые слова, характерные для мошеннических звонков, а также сравнивать голоса звонящих с образцами в базе. В случае совпадения система предупредит абонента, что он разговаривает с мошенником.

Минцифры подтвердило, что в выявлении мошеннических вызовов будет задействован ИИ. Однако в ведомстве отметили, что пока говорить о деталях преждевременно, так как законопроект еще в стадии разработки и его окончательная редакция может измениться.

Операторы связи восприняли инициативу неоднозначно. С одной стороны, они считают перспективным использование голосовых векторов для выявления мошенников, но с другой — отмечают сложность и высокую стоимость реализации.

«Если потребуется онлайн-анализ всех телефонных звонков, операторам придется вложиться в масштабное расширение вычислительной инфраструктуры», — заявил представитель «Мегафона».

Эксперты в сфере информационной безопасности выразили опасения, что даже при обезличивании данных высок риск деанонимизации владельцев голосовых образцов. Кроме того, собранные данные могут быть использованы для массовой генерации дипфейков.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru