70% компаний столкнулись с атаками на LLM — чаще всего фишинг

70% компаний столкнулись с атаками на LLM — чаще всего фишинг

70% компаний столкнулись с атаками на LLM — чаще всего фишинг

Компании всё активнее внедряют большие языковые модели (LLM) в свои процессы — по оценкам, уже более 90% российских организаций используют ИИ-инструменты. Но вместе с этим растёт и число атак. По данным экспертов «Информзащиты», около 70% компаний уже столкнулись с попытками атак через LLM. Причина проста — безопасность ИИ часто остаётся «на потом», чем и пользуются злоумышленники.

Один из самых распространённых сценариев — это инъекции запросов (Prompt Injection). Суть в том, что хакер добавляет к обычному запросу фразу вроде «игнорируй предыдущие инструкции» — и модель, не различая, что к чему, может выполнить вредоносную команду.

Причём для такой атаки не нужны сложные знания: достаточно написать нужный текст — и модель поддастся.

По статистике, на такие инъекции приходится больше 40% атак на ИИ. В половине случаев их используют для фишинга, ещё в 40% — чтобы вытащить данные из систем. Под удар чаще всего попадают компании, где LLM работает на пользовательский фронт: чат-боты, умный поиск и т. д. Это особенно актуально для ретейла (37% атак), финансового сектора (25%) и телеком-компаний (17%).

Проблема ещё и в том, что безопасность часто отстаёт от скорости внедрения технологий. По оценке «Информзащиты», около 65% компаний запускают LLM без полноценной настройки и проверки. Модели могут получить доступ к внутренним базам данных, работать без ограничений по форматам запросов — и это делает их уязвимыми.

Что рекомендуют эксперты? Во-первых, регулярно проверять ИИ-инструменты на уязвимости: аудит, пентесты, оценка рисков. Во-вторых — грамотно настраивать модели: ограничивать доступ к чувствительным данным, вводить фильтры и валидацию запросов. И, наконец, подключить мониторинг — например, через SOC — чтобы вовремя замечать подозрительную активность и реагировать на атаки.

Помощь вузам обойдется российским ИТ-компаниям в 3% экономии на налогах

Минцифры РФ определилось с критериями оценки взаимодействия ИТ-отрасли с вузами, которое станет обязательным для аккредитованных компаний. Последние должны будут направлять на такие нужды 3% средств, сэкономленных на налогах и страховых взносах.

Согласно подготовленному проекту приказа, компании с годовой выручкой свыше 1 млрд руб. и штатом 100+ обяжут к 1 июня 2026 года заключить соглашения с профильными вузами о финансовой поддержке и помощи в подготовке кадров.

Неисполнение этого предписания грозит потерей ИТ-аккредитации, налоговых льгот и мобилизационной брони.

В соглашение о сотрудничестве в обязательном порядке должно быть включено соучастие в преподавательской работе и подготовке образовательных программ. По желанию стороны могут оговорить и другие меры поддержки — к примеру, возможность стажировки для студентов.

Не возбраняются также другие инициативы специалистов по ИТ — разработка профильных программ для школьников (5-11 классы), организация курсов повышения квалификации для учителей.

Опрошенные «Ведомостями» представители сферы образования отметили необходимость расширения составленного Минцифры списка мер поддержки. Так, можно было бы включить в него проведение совместных работ: преподавателям и студентам не хватает практических знаний / навыков, а сотрудники ИТ-компаний смогут повысить свой уровень как теоретики.

Кроме того, российские вузы испытывают потребность в образовательном контенте, целевых стипендиях для студентов, фондах для поощрения штатных преподавателей.

Комментаторы также отметили, что в помощи со стороны ИТ-отрасли нуждаются не только вузы, но и учреждения среднего профессионального образования (СПО), где все еще преобладает зарубежный софт. Выпускникам необходимо осваивать российские технологии, чтобы потом не переучиваться, устроившись на работу.

Экспертов в области ИТ можно было бы привлечь к проведению олимпиад и госэкзаменов, модернизации учебных лабораторий, разработке программ допобразования для преподавателей СПО.

RSS: Новости на портале Anti-Malware.ru