Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Базирующаяся в Сингапуре компания FoloToy сняла с продажи медвежат Kumma и другие игрушки на основе ИИ после того, как исследователи выявили их склонность к вредным советам и обсуждению сексуальных пристрастий.

Вендор интеллектуальных плюшевых мишек заявил, что проводит аудит безопасности ассортимента, использующего ИИ-технологии.

Набивной плюшевый мишка с интегрированным чат-ботом на основе GPT-4o производства OpenAI продавался по цене $99 и позиционировался как дружелюбный и знающий собеседник, которого оценят и любознательные дети, и их родители.

Как выяснилось, вооруженная ИИ приятная игрушка использует его без должных ограничений. Тестирование показало, что Kumma с готовностью выдают потенциально опасный контент — сведения о нетрадиционном сексе с наглядной графикой, а также советы о том, как зажигать спички и где отыскать в доме ножи.

Получив соответствующее уведомление, OpenAI заблокировала разработчика детских игрушек за нарушение ее политик. Вместе с тем исследователи с сожалением отмечают, что это не единичный случай: производство ИИ-игрушек пока никак не регулируется, а поток их продаж растет.

Удаление одного потенциально опасного продукта с прилавков, по мнению экспертов, не решит проблемы, пока не будет введен систематический контроль.

Стоит заметить, что детские игрушки на основе ИИ, склонного к галлюцинациям, способны нанести еще больший вред, чем некогда модные интерактивные куклы, мягкие зверики и роботы, подключенные к интернету и потому уязвимые к взлому и перехвату персональных данных.

Антифрод не спасает: операторов связи в России штрафуют за подменные номера

Российские операторы связи всё чаще получают многомиллионные штрафы за то, что пропускают звонки мошенников с подменных номеров. Несмотря на работу системы «Антифрод», полностью перекрыть поток аферистов пока не удаётся. Только в июне сразу несколько операторов были наказаны за подобные случаи.

В Санкт-Петербурге, как пишут «Известия», компанию оштрафовали почти на 2 млн рублей после того, как пенсионерка перевела мошенникам миллион рублей.

В Омской области другой оператор получил штраф 600 тысяч рублей за пропуск звонка с подменным номером, после которого у девушки похитили деньги.

По данным Роскомнадзора, в 2025 году за такие нарушения было составлено 132 административных протокола, а общая сумма штрафов превысила 23 млн рублей. В 2026 году составлено уже 102 протокола.

При этом сама система «Антифрод» работает весьма эффективно. Сейчас она ежедневно блокирует около 1,14 млн мошеннических звонков, или более 523 млн в месяц. Но специалисты отмечают, что многое зависит от того, насколько хорошо оператор настроил защиту и насколько современное оборудование использует.

Есть и техническая особенность. Если система проверки не успевает подтвердить подмену номера за 500 миллисекунд, вызов автоматически проходит, иначе пострадала бы обычная телефонная связь. Именно этим иногда пользуются злоумышленники.

Кроме того, мошенники продолжают искать обходные пути: используют зарубежные шлюзы, VoIP-сервисы, небольших операторов, сим-боксы и всё чаще начинают атаку через мессенджеры, а телефонный звонок используют уже как второй этап.

Но главные изменения ещё впереди. С марта 2027 года должны вступить в силу положения закона «Антифрод 2.0». Если суд установит, что оператор не принял достаточных мер для блокировки мошеннического звонка, пострадавший сможет требовать компенсацию ущерба уже не только от банка, но и от оператора связи.

Эксперты считают, что после этого телеком-компаниям станет дешевле максимально качественно настраивать свои антифрод-системы, чем потом выплачивать клиентам украденные мошенниками деньги.

RSS: Новости на портале Anti-Malware.ru