ИИ запоминает ваши откровения, половина пользователей об этом не знает

ИИ запоминает ваши откровения, половина пользователей об этом не знает

ИИ запоминает ваши откровения, половина пользователей об этом не знает

Чат-боты тихо переквалифицировались из поисковых помощников в цифровых исповедников. Согласно исследованию DuckDuckGo, почти каждый третий пользователь ИИ рассказывал нейросети то, чем не готов поделиться с друзьями, родственниками, коллегами или врачами. Среди убеждённых поклонников искусственного интеллекта таких уже 56%.

В опросе приняли участие около 2000 взрослых жителей США. Выяснилось, что люди охотно выгружают в чат-боты личные переживания, мысли и подробности жизни, но довольно смутно представляют дальнейшую судьбу этой информации.

Так, 53% респондентов не знали или не были уверены, что большинство чат-ботов по умолчанию могут использовать разговоры для обучения моделей. Только четверть участников понимала, что переписку с ИИ в некоторых случаях могут запросить правоохранительные органы.


После знакомства с этой кухней 58% опрошенных признались, что им не нравится использование диалогов для обучения нейросетей. Почти треть оказалась крайне недовольна.

Особенно разговорчивыми оказались родители. Среди пользователей ИИ, воспитывающих детей, 43% доверяли чат-боту информацию, которую прежде не рассказывали никому. У людей без детей дома показатель составил 25%.


В DuckDuckGo считают, что разработчики сами подталкивают аудиторию к откровенности, рекламируя ИИ в качестве понимающего собеседника без осуждения. Вот только цифровой психотерапевт может запоминать больше, чем хотелось бы пациенту.


С доверием тоже негусто: 39% участников вообще не верят крупным ИИ-компаниям в вопросах защиты данных. Впрочем, американскому правительству повезло ещё меньше — ему не доверяют 48%.

Прежде чем вываливать нейросети семейные тайны, медицинские подробности или рабочие секреты, неплохо проверить политику хранения данных.

ГК «Солар» объединила три технологии для защиты софта от ИИ-рисков

Искусственный интеллект научился штамповать код с бешеной скоростью, но безопаснее от этого софт не стал. По данным ГК «Солар» и УЦСБ, ИИ при разработке используют уже 82% организаций. При этом публичные LLM могут пропускать или неверно определять до 40-50% уязвимостей, выявляемых средствами статического анализа.

Особенно весело становится после релиза: в 75-80% массовых цифровых сервисов, изученных экспертами «Солара», обнаруживаются критические уязвимости.

А времени на раздумья всё меньше. Если в 2019 году окно для эксплуатации бреши составляло около 63 дней, то в 2025-м атакующим порой хватало нескольких часов. В утечках данных через LLM исходный код занимает 41%.

На этом фоне «Солар» объединил три технологии — Solar appScreener, Luntry и Hexway ASOC — в единый портфель для защиты ПО от рисков, связанных с ИИ. Контур охватывает весь путь приложения: написание кода, сборку, тестирование, выпуск в прод и эксплуатацию.

Solar appScreener получил локальный ИИ-плагин для проверки и исправления уязвимостей. Заявленная точность достигает более 90% при триаже и 85% при подготовке исправлений. Решение может работать без интернета, чтобы корпоративный код не отправлялся гулять по внешним сервисам.

Luntry следит за контейнерами и Kubernetes-кластерами, помогает приоритизировать уязвимости и выявлять неизвестные угрозы. Hexway ASOC собирает результаты SAST, DAST, SCA и пентестов, убирает дубли, сортирует находки по риску и контролирует сроки исправления.

По оценке «Солара», российский рынок AppSec вырастет с 2,8 млрд рублей в 2025 году до 5,7 млрд к 2030-му.

RSS: Новости на портале Anti-Malware.ru