Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Базирующаяся в Сингапуре компания FoloToy сняла с продажи медвежат Kumma и другие игрушки на основе ИИ после того, как исследователи выявили их склонность к вредным советам и обсуждению сексуальных пристрастий.

Вендор интеллектуальных плюшевых мишек заявил, что проводит аудит безопасности ассортимента, использующего ИИ-технологии.

Набивной плюшевый мишка с интегрированным чат-ботом на основе GPT-4o производства OpenAI продавался по цене $99 и позиционировался как дружелюбный и знающий собеседник, которого оценят и любознательные дети, и их родители.

Как выяснилось, вооруженная ИИ приятная игрушка использует его без должных ограничений. Тестирование показало, что Kumma с готовностью выдают потенциально опасный контент — сведения о нетрадиционном сексе с наглядной графикой, а также советы о том, как зажигать спички и где отыскать в доме ножи.

Получив соответствующее уведомление, OpenAI заблокировала разработчика детских игрушек за нарушение ее политик. Вместе с тем исследователи с сожалением отмечают, что это не единичный случай: производство ИИ-игрушек пока никак не регулируется, а поток их продаж растет.

Удаление одного потенциально опасного продукта с прилавков, по мнению экспертов, не решит проблемы, пока не будет введен систематический контроль.

Стоит заметить, что детские игрушки на основе ИИ, склонного к галлюцинациям, способны нанести еще больший вред, чем некогда модные интерактивные куклы, мягкие зверики и роботы, подключенные к интернету и потому уязвимые к взлому и перехвату персональных данных.

Фейковое приложение ЦБ использует NFC в Android-смартфонах для кражи денег

Эксперты UserGate предупредили о росте мошеннических схем, в которых злоумышленники используют NFC в Android-смартфонах. Эта технология обычно нужна для бесконтактной оплаты, но в руках мошенников превращается в инструмент для вывода денег со счетов жертв.

Схема строится на социальной инженерии. Человека убеждают установить вредоносное приложение, например под видом приложения ЦБ для перевода денег на безопасный счёт.

После установки приложение назначается платёжным средством по умолчанию и получает возможность работать с NFC. Дальше возможны два сценария.

Первый называют обратным NFCGate. Жертву могут уговорить купить новый смартфон якобы из-за прослушки или необходимости безопасной операции. Затем человека просят установить приложение, подойти к банкомату и внести наличные на некий безопасный счёт. На деле в приложении уже записаны реквизиты карты злоумышленников, поэтому деньги уходят им.

Второй вариант — прямой NFCGate. Мошенники убеждают жертву просто приложить банковскую карту к телефону. В этот момент вредоносное приложение считывает данные через NFC и передаёт их на смартфон злоумышленника. Тот может использовать свой гаджет у терминала или банкомата для покупки или снятия наличных.

В UserGate отмечают, что мошенники всё чаще используют не сложные инструменты полного контроля над устройством, а более лёгкие вредоносные приложения. Их проще распространять, а жертву всё равно ведут вручную: через звонки, давление, доверительный тон и изоляцию от родственников или коллег.

Защита здесь начинается с базовой осторожности. Не стоит устанавливать приложения по ссылкам от незнакомцев, включать установку из неизвестных источников и назначать непонятные программы платёжными по умолчанию. А если собеседник просит купить новый телефон, подойти к банкомату, приложить карту к смартфону или срочно перевести деньги на безопасный счёт, это наверняка злоумышленник.

RSS: Новости на портале Anti-Malware.ru