Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Базирующаяся в Сингапуре компания FoloToy сняла с продажи медвежат Kumma и другие игрушки на основе ИИ после того, как исследователи выявили их склонность к вредным советам и обсуждению сексуальных пристрастий.

Вендор интеллектуальных плюшевых мишек заявил, что проводит аудит безопасности ассортимента, использующего ИИ-технологии.

Набивной плюшевый мишка с интегрированным чат-ботом на основе GPT-4o производства OpenAI продавался по цене $99 и позиционировался как дружелюбный и знающий собеседник, которого оценят и любознательные дети, и их родители.

Как выяснилось, вооруженная ИИ приятная игрушка использует его без должных ограничений. Тестирование показало, что Kumma с готовностью выдают потенциально опасный контент — сведения о нетрадиционном сексе с наглядной графикой, а также советы о том, как зажигать спички и где отыскать в доме ножи.

Получив соответствующее уведомление, OpenAI заблокировала разработчика детских игрушек за нарушение ее политик. Вместе с тем исследователи с сожалением отмечают, что это не единичный случай: производство ИИ-игрушек пока никак не регулируется, а поток их продаж растет.

Удаление одного потенциально опасного продукта с прилавков, по мнению экспертов, не решит проблемы, пока не будет введен систематический контроль.

Стоит заметить, что детские игрушки на основе ИИ, склонного к галлюцинациям, способны нанести еще больший вред, чем некогда модные интерактивные куклы, мягкие зверики и роботы, подключенные к интернету и потому уязвимые к взлому и перехвату персональных данных.

ЦИПР-2026 бесплатно откроет выставку для всех желающих в последний день

В заключительный день конференции ЦИПР, 21 мая, выставочная экспозиция будет открыта для всех желающих. Посетить её можно будет бесплатно, но потребуется предварительная регистрация на сайте мероприятия и бейдж посетителя. Выставка разместится в зеркальных павильонах Нижегородской ярмарки.

Гости смогут посмотреть цифровые разработки, программные решения, платформы и технологические сервисы, которые применяются в разных отраслях и в повседневной жизни.

Открытый день проводят ежегодно. Его задача — сделать технологическую повестку доступнее не только для участников деловой программы, но и для жителей города, студентов, молодых специалистов и всех, кому интересно, чем сейчас живёт ИТ-рынок.

 

Для посещения нужно выбрать дату 21 мая и удобный временной слот при регистрации. После заполнения формы на почту придёт подтверждение и информация о получении бейджа. Количество мест в каждом слоте ограничено.

В тот же день на территории Нижегородской ярмарки стартует городской технологический фестиваль «Тех-Френдли Викенд». Он продолжит тему технологий в более открытом формате: с лекциями, дискуссиями и интерактивными мероприятиями для молодёжи и широкой аудитории.

 

ЦИПР-2026 пройдёт в Нижнем Новгороде с 18 по 21 мая, а «Тех-Френдли Викенд» — с 21 по 23 мая.

Последний день ЦИПР — это возможность попасть на крупную технологическую выставку без профессионального бейджа участника и посмотреть, какие цифровые решения компании показывают не только чиновникам и бизнесу, но и обычным посетителям.

RSS: Новости на портале Anti-Malware.ru