Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Продажи плюшевых ИИ-мишек приостановлены из-за их сексуальных фантазий

Базирующаяся в Сингапуре компания FoloToy сняла с продажи медвежат Kumma и другие игрушки на основе ИИ после того, как исследователи выявили их склонность к вредным советам и обсуждению сексуальных пристрастий.

Вендор интеллектуальных плюшевых мишек заявил, что проводит аудит безопасности ассортимента, использующего ИИ-технологии.

Набивной плюшевый мишка с интегрированным чат-ботом на основе GPT-4o производства OpenAI продавался по цене $99 и позиционировался как дружелюбный и знающий собеседник, которого оценят и любознательные дети, и их родители.

Как выяснилось, вооруженная ИИ приятная игрушка использует его без должных ограничений. Тестирование показало, что Kumma с готовностью выдают потенциально опасный контент — сведения о нетрадиционном сексе с наглядной графикой, а также советы о том, как зажигать спички и где отыскать в доме ножи.

Получив соответствующее уведомление, OpenAI заблокировала разработчика детских игрушек за нарушение ее политик. Вместе с тем исследователи с сожалением отмечают, что это не единичный случай: производство ИИ-игрушек пока никак не регулируется, а поток их продаж растет.

Удаление одного потенциально опасного продукта с прилавков, по мнению экспертов, не решит проблемы, пока не будет введен систематический контроль.

Стоит заметить, что детские игрушки на основе ИИ, склонного к галлюцинациям, способны нанести еще больший вред, чем некогда модные интерактивные куклы, мягкие зверики и роботы, подключенные к интернету и потому уязвимые к взлому и перехвату персональных данных.

Роскомнадзор судится с крупнейшими в мире игровыми студиями

Роскомнадзор подал иски сразу к нескольким крупным разработчикам игр. Поводом стал отказ от локализации персональных данных российских пользователей. По данным СМИ, иски поданы как минимум к семи игровым студиям, среди которых Electronic Arts (The Sims, Battlefield, FIFA и др.) и Take-Two Interactive Software (Grand Theft Auto, Red Dead Redemption).

Все материалы направлены в судебный участок мирового судьи в Таганском районе Москвы по ч. 8 ст. 13.11 КоАП РФ — нарушение законодательства о персональных данных.

По данным юридической компании Semenov & Pevzner, которые приводит «Коммерсантъ», Роскомнадзор предъявил претензии к зарубежным игровым студиям из-за несоблюдения требований по персональным данным.

В Роскомнадзоре изданию подтвердили наличие таких претензий. Соответствующие протоколы были направлены в суд. В случае признания виновными игровым студиям может грозить штраф до 6 млн рублей.

Как рассказали в Semenov & Pevzner, по трём делам из семи решения ещё не вынесены. Это касается Epic Games, Digital Extremes и Embracer Group. В отношении Battlestate Games Limited, Electronic Arts Inc., Take-Two Interactive Software Inc. и NetEase Interactive Entertainment Pte судебные заседания уже прошли в апреле. Всем им назначены штрафы по 2 млн рублей. Адвокат Forward Legal Сергей Кокорев также напомнил, что ещё в 2023 году была оштрафована Blizzard.

Главный риск для игровых студий, по мнению Сергея Кокорева, заключается в том, что Роскомнадзор может перейти от штрафов к требованиям устранить нарушения. В этом случае, как считает источник издания на игровом рынке, возможны более жёсткие меры. Если дело дойдёт до блокировок, нормальный игровой процесс может оказаться невозможен даже с VPN — это показал пример Roblox, заблокированного регулятором в декабре 2025 года. В таком сценарии на рынке могут остаться в основном российские и китайские игры.

Впрочем, независимый эксперт игрового рынка Константин Говорун напомнил, что практически все зарубежные игровые компании уже свернули деятельность в России. При этом, по его оценке, пользовательская база игр этих разработчиков в стране составляет около 30 млн человек.

Продюсер студии Owlcat Games Максим Фомичев отмечает, что российские пользователи уже научились обходить ограничения, в том числе покупая игры через посредников. Поэтому, по его мнению, даже в случае полной блокировки для российских игроков может измениться не так много.

RSS: Новости на портале Anti-Malware.ru