ИИ запоминает ваши откровения, половина пользователей об этом не знает

ИИ запоминает ваши откровения, половина пользователей об этом не знает

ИИ запоминает ваши откровения, половина пользователей об этом не знает

Чат-боты тихо переквалифицировались из поисковых помощников в цифровых исповедников. Согласно исследованию DuckDuckGo, почти каждый третий пользователь ИИ рассказывал нейросети то, чем не готов поделиться с друзьями, родственниками, коллегами или врачами. Среди убеждённых поклонников искусственного интеллекта таких уже 56%.

В опросе приняли участие около 2000 взрослых жителей США. Выяснилось, что люди охотно выгружают в чат-боты личные переживания, мысли и подробности жизни, но довольно смутно представляют дальнейшую судьбу этой информации.

Так, 53% респондентов не знали или не были уверены, что большинство чат-ботов по умолчанию могут использовать разговоры для обучения моделей. Только четверть участников понимала, что переписку с ИИ в некоторых случаях могут запросить правоохранительные органы.


После знакомства с этой кухней 58% опрошенных признались, что им не нравится использование диалогов для обучения нейросетей. Почти треть оказалась крайне недовольна.

Особенно разговорчивыми оказались родители. Среди пользователей ИИ, воспитывающих детей, 43% доверяли чат-боту информацию, которую прежде не рассказывали никому. У людей без детей дома показатель составил 25%.


В DuckDuckGo считают, что разработчики сами подталкивают аудиторию к откровенности, рекламируя ИИ в качестве понимающего собеседника без осуждения. Вот только цифровой психотерапевт может запоминать больше, чем хотелось бы пациенту.


С доверием тоже негусто: 39% участников вообще не верят крупным ИИ-компаниям в вопросах защиты данных. Впрочем, американскому правительству повезло ещё меньше — ему не доверяют 48%.

Прежде чем вываливать нейросети семейные тайны, медицинские подробности или рабочие секреты, неплохо проверить политику хранения данных.

81-88% первичных вердиктов сканеров кода оказались ложными

Количество обнаруженных в коде уязвимостей за год выросло на 70%, тогда как очередь на их разбор — лишь на 18%. Сканеры явно научились находить больше, а вот дополнительных инженеров безопасности к ним в комплекте не положили.

AppSec Solutions проанализировала обезличенные данные платформы AppSec.Hub: 4 214 кодовых баз общим объёмом около 510 млн строк и более 3,1 млн находок SAST-, SCA- и DAST-сканеров. В выборку вошли ИТ-компании, финтех и организации реального сектора.

Исследователи подчёркивают: рост числа проблем не обязательно означает, что разработчики внезапно стали писать хуже. С начала 2025 года по май 2026-го объём анализируемого кода увеличился с 333 до 510 млн строк, а количество кодовых баз — с 2 563 до 4 214. Чем больше кода подключают к проверке, тем больше находок получают, особенно на фоне массового вайбкодинга.

Настоящее узкое место начинается после сканирования. Среди ещё не исправленных находок 69% ждут вердикта инженера ИБ. Медианный срок устранения критических проблем за год вырос со 103 до 153 дней. Из уязвимостей, уже переданных разработчикам, закрывают от 12% до 50%.

При этом большая часть лавины — шум, ложными оказываются 81-88% первичных вердиктов сканеров. Доля действительно серьёзных находок High и Critical остаётся стабильной — около 23%. В OWASP Top 10 лидируют нарушения контроля доступа с долей 44%.

По данным разработчика, конвейер AppSec.Hub за полгода превратил 18,7 млн сырых срабатываний в 428 тыс. уникальных находок, а затем — в 9,4 тыс. групп задач на исправление. Поток ужался почти в две тысячи раз.

Правила и ИИ-помощник автоматически закрывают уже 58% первичного разбора. Когда помощник признаёт срабатывание ложным, на крупнейшей проверенной выборке он оказывался прав примерно в 97% случаев. Реальные уязвимости подтверждает человек.

RSS: Новости на портале Anti-Malware.ru