Более 10 млн россиян рискуют раскрыть данные

Более 10 млн россиян рискуют раскрыть данные

Более 10 млн россиян рискуют раскрыть данные

Более 10 млн россиян и российских компаний рискуют раскрыть персональные данные из-за использования поддельных сервисов генеративного искусственного интеллекта (ChatGPT, Dall-E, Midjourney).

Злоумышленники пользуются тем, что жителям России усложнен доступ к данным инструментам из-за проблем с оплатой и ограничений, связанных с санкционной политикой.

Мошенники создают чат-боты и сайты, где обещают предоставить доступ к популярным инструментам. Однако пользователи получают минимальную версию продукта с урезанными функциональными возможностями.

«Пользователи, которые получают доступ к ChatGPT, Dall-E, Midjourney и другим иностранным большим языковым моделям (LLM) через сторонние сервисы, рискуют не только вместо "оригинала" получить открытую модель низкого качества, но и раскрыть свои конфиденциальные данные. Компания считает, что таких людей в России более 10 миллионов», — заявил РИА Новости директор по LLM-продуктам MTS AI Сергей Пономаренко.

Эксперт также предупредил о том, что и использование легальных сервисов сопряжено с рисками раскрытия конфиденциальных данных, которые используются для обучения нейросетей. Это в равной степени относится как к личным данным обычных людей, так и к корпоративной информации компаний.

«Во-первых, подобным сервисам нельзя предоставлять персональные данные и конфиденциальную информацию, содержащую коммерческую тайну. Для работы с корпоративными данными следует использовать только те чат-боты и сервисы, которые одобрены руководством и установлены в контуре вашей организации. Во-вторых, важно помнить — генеративные сети не всегда обладают актуальной информацией и могут быть обучены на устаревших данных, объем их информации ограничен. Даже достоверный и релевантный на первый взгляд результат необходимо перепроверять через независимые источники», — предупредил Сергей Пономаренко.

Yandex B2B Tech добавила ИИ-инструменты для поиска уязвимостей в коде

Yandex B2B Tech обновила платформу для разработки SourceCraft, добавив новые ИИ-инструменты для работы с уязвимостями и командной разработки. Обновления уже доступны всем пользователям и ориентированы не только на индивидуальные проекты, но и на работу с крупными корпоративными кодовыми базами.

Главное новшество — усиление блока безопасности. На платформе появился ИИ-агент на базе SourceCraft Code Assistant, который автоматически проверяет код на уязвимости и оформляет найденные проблемы в виде карточек.

В каждой из них ИИ помогает разобраться, насколько риск серьёзный, каким образом уязвимость может быть использована и как её корректно исправить — с примерами безопасного кода. За счёт этого анализ, который раньше мог занимать часы и требовать участия профильных специалистов, теперь укладывается в минуты.

Дополнительно в SourceCraft появился центр контроля уязвимостей с интерактивными дашбордами. Они показывают, какие системы затронуты, какие типы уязвимостей встречаются чаще всего и где сосредоточены зоны повышенного риска. Это упрощает приоритизацию и помогает смотреть на безопасность не фрагментарно, а в масштабе всей разработки.

Обновления затронули и командную работу. ИИ-агент SourceCraft Code Assistant теперь автоматически формирует краткие описания изменений в коде, чтобы разработчикам было проще ориентироваться в правках коллег. Также в платформе появилась возможность фиксировать состав версий ПО и отслеживать их готовность, что делает процесс разработки более прозрачным и упрощает координацию между командами.

В Yandex B2B Tech отмечают, что в крупных организациях с сотнями разработчиков и тысячами репозиториев критически важны прозрачность рисков и управляемость процессов. По словам руководителя платформы SourceCraft Дмитрия Иванова, в дальнейшем платформа будет развиваться в сторону мультиагентных ИИ-помощников, которые смогут учитывать контекст всей компании, помогать командам взаимодействовать друг с другом и показывать руководству, как технические уязвимости влияют на бизнес-процессы.

RSS: Новости на портале Anti-Malware.ru