НКЦКИ создал алгоритм оценки рисков при обновлении заграничного софта

НКЦКИ создал алгоритм оценки рисков при обновлении заграничного софта

НКЦКИ создал алгоритм оценки рисков при обновлении заграничного софта

Национальный координационный центр по компьютерным инцидентам (НКЦКИ) разработал алгоритм, призванный упростить процесс принятия решения о необходимости установки апдейтов для программ иностранного производства. В конце марта российская CERT советовала в таких случаях отключить автообновление из-за возможной угрозы безопасности информационным ресурсам РФ.

Прежняя мера, по словам НКЦКИ (PDF), была краткосрочной и вынужденной: были зафиксированы случаи внедрения в зарубежный софт недокументированных возможностей (НДВ) либо механизмов блокировки работы. Поскольку в долгосрочной перспективе отказ от обновления может привести к накоплению уязвимостей, угроза потери важных данных или приостановки критичных бизнес-процессов может оказаться выше рисков, связанных с внедрением нежелательного контента.

Чтобы облегчить ИБ-службам принятие решений в столь непростой ситуации, НКЦКИ создал алгоритм, учитывающий все возможные критерии оценки. Его не рекомендуется применять для обновления софта, используемого в АСУ ТП; его также нельзя использовать в тех случаях, когда речь идет о программах для мобильных устройств.

 

При работе с алгоритмом необходимо учитывать следующее:

  • это лишь рекомендация, за ее применение отвечает исполнитель;
  • алгоритм не предусматривает граничные случаи, поэтому его следует использовать с учетом контекста;
  • перед обновлением софт надлежит проверить в тестовой среде или по контрольной выборке;
  • в тех случаях, когда можно предотвратить эксплойт средствами защиты, обновление лучше не производить;
  • если есть возможность проверить наличие НДВ в апдейтах, решение следует принимать по результатам собственного анализа, а не по алгоритму НКЦКИ.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

На Кубани судей заподозрили в использовании ИИ

В Краснодарский краевой суд поступила апелляционная жалоба защиты, основанием для которой стало использование генеративного искусственного интеллекта (ИИ) при составлении судебного решения. Речь идет о приговоре Ейского городского суда в отношении двух сотрудников полиции, признанных виновными в получении взяток от торговца контрафактным алкоголем.

Как сообщает «Коммерсантъ», оба подсудимых получили по семь лет лишения свободы.

Адвокат одного из осужденных, Алексей Аванесян, обратил внимание на ряд фраз в приговоре, которые показались ему нехарактерными для судебных документов. Чтобы проверить свои подозрения, он обратился к лингвисту с просьбой определить, могли ли эти выражения быть результатом работы ИИ.

Эксперт пришёл к выводу о высокой вероятности того, что при составлении приговора действительно использовался генеративный искусственный интеллект. Среди признаков были указаны смешение стилей, несоблюдение жанровых особенностей текста, неуместность ряда слов и выражений, «пустая массивность» и «бессмысленность» некоторых конструкций, а также их «неестественность».

Этот факт стал основанием для обжалования решения в суде более высокой инстанции. В своей жалобе Алексей Аванесян особо подчеркнул, что действующее законодательство не предусматривает использование искусственного интеллекта при подготовке судебных актов.

Однако коллегия по уголовным делам не согласилась с доводами адвоката. В решении указано, что приговор «изложен в ясных и понятных выражениях», а выбранная судом стилистика «не влияет на законность решения и не противоречит нормам УПК».

«В любом случае, независимо от вопросов к стилю, объективная сторона дела остаётся неизменной. Но стороны не лишены права обжаловать приговор в кассации, если считают, что он вынесен с нарушениями», — сообщили в объединённой пресс-службе судов Краснодарского края в ответ на запрос издания.

Сам Алексей Аванесян отметил, что главной целью обжалования стало желание прояснить правовой статус применения ИИ при подготовке судебных документов.

«К сожалению, мы так и не получили прямого ответа на этот вопрос, хотя его сегодня ждут многие, — заявил адвокат. — Я, скорее, даже сторонник того, чтобы приговоры писали нейросети, ведь в этом случае они не смогут игнорировать доказательства, принимать недопустимые материалы, закрывать глаза на противоречия и несостыковки в деле, отмахиваться от показаний свидетелей или заключений экспертов. Искусственный интеллект просто не способен на это. Но если он и используется, то приговор должен быть написан им полностью — от начала и до конца, без возможности человека изымать из текста объективные, но “неудобные” фрагменты».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru