ИИ запоминает ваши откровения, половина пользователей об этом не знает

ИИ запоминает ваши откровения, половина пользователей об этом не знает

ИИ запоминает ваши откровения, половина пользователей об этом не знает

Чат-боты тихо переквалифицировались из поисковых помощников в цифровых исповедников. Согласно исследованию DuckDuckGo, почти каждый третий пользователь ИИ рассказывал нейросети то, чем не готов поделиться с друзьями, родственниками, коллегами или врачами. Среди убеждённых поклонников искусственного интеллекта таких уже 56%.

В опросе приняли участие около 2000 взрослых жителей США. Выяснилось, что люди охотно выгружают в чат-боты личные переживания, мысли и подробности жизни, но довольно смутно представляют дальнейшую судьбу этой информации.

Так, 53% респондентов не знали или не были уверены, что большинство чат-ботов по умолчанию могут использовать разговоры для обучения моделей. Только четверть участников понимала, что переписку с ИИ в некоторых случаях могут запросить правоохранительные органы.


После знакомства с этой кухней 58% опрошенных признались, что им не нравится использование диалогов для обучения нейросетей. Почти треть оказалась крайне недовольна.

Особенно разговорчивыми оказались родители. Среди пользователей ИИ, воспитывающих детей, 43% доверяли чат-боту информацию, которую прежде не рассказывали никому. У людей без детей дома показатель составил 25%.


В DuckDuckGo считают, что разработчики сами подталкивают аудиторию к откровенности, рекламируя ИИ в качестве понимающего собеседника без осуждения. Вот только цифровой психотерапевт может запоминать больше, чем хотелось бы пациенту.


С доверием тоже негусто: 39% участников вообще не верят крупным ИИ-компаниям в вопросах защиты данных. Впрочем, американскому правительству повезло ещё меньше — ему не доверяют 48%.

Прежде чем вываливать нейросети семейные тайны, медицинские подробности или рабочие секреты, неплохо проверить политику хранения данных.

Поддельный Codex подняли выше сайта OpenAI в Google и заражают macOS

Злоумышленники запустили рекламу поддельного загрузчика OpenAI Codex в Google Search. Продвигаемая ссылка может появляться выше официального результата и вести на убедительно оформленную страницу в Google Sites. Ловушка показывается по запросам вроде «codex macos download» и предлагает версии для macOS и Linux.

Исследователи из Cato Networks подтвердили активную доставку вредоноса только пользователям macOS. Остальным сайт может показать безобидную страницу, чтобы не привлекать внимание защитных систем и аналитиков.

Google Sites используется как декорация доверия. Внутри страницы через iframe загружается содержимое с серверов злоумышленников, поэтому начинку можно менять, не трогая внешне приличный адрес Google.

 

Вместо привычного DMG-файла установщик просит открыть Терминал и вставить команду. Начинается она с правдоподобной строки установки Codex через npm, но затем декодирует спрятанный в Base64 адрес, загружает удалённый скрипт и передаёт его оболочке zsh. Это техника ClickFix: антивирус ничего не разрешает, пользователь сам запускает заражение.

 

Далее трёхступенчатая цепочка скачивает Mach-O-файл в /tmp/helper, удаляет его расширенные атрибуты командой xattr -c, делает исполняемым и запускает. Очистка атрибутов может убрать карантинные метки macOS и сократить число предупреждений. Вредонос работает как на Intel-версиях яблочных устройств, так и на компьютерах с Apple Silicon.

Исследователи обнаружили серьёзное сходство инфраструктуры и механики доставки с инфостилером Atomic, однако не утверждают, что финальный файл точно относится к AMOS.

Устанавливать Codex стоит только по инструкции из официальной документации OpenAI, внимательно проверяя домен и саму команду. Если случайная страница из рекламы просит вставить в Терминал длинную конструкцию с Base64, curl, zsh или xattr, это не установка — это добровольная сдача компьютера злоумышленникам.

RSS: Новости на портале Anti-Malware.ru