Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

В ИИ-индустрии произошло почти невероятное событие. Главы OpenAI, Anthropic, Google DeepMind и Microsoft AI выступили единым фронтом и попросили Конгресс США срочно ужесточить правила продажи синтетической ДНК и РНК.

3 июня Сэм Альтман, Дарио Амодеи, Демис Хассабис и Мустафа Сулейман подписали открытое письмо, в котором призвали обязать компании, занимающиеся синтезом генетического материала, проверять не только сами заказы, но и их заказчиков.

Причина проста: ИИ становится слишком хорошим помощником. Авторы письма опасаются, что современные языковые модели постепенно снижают порог входа в область биотехнологий.

Если раньше потенциальному злоумышленнику требовались серьёзные знания в биологии, то теперь часть информации может подсказать нейросеть: где искать нужные гены, как формулировать запросы и каким образом обходить существующие механизмы проверки.

Впрочем, паники в письме нет. Подписанты отдельно подчёркивают, что современные ИИ-модели пока не способны самостоятельно разработать полноценный патоген с нуля. Для этого всё ещё нужны профессиональные знания и практические навыки.

Но проблема, по их мнению, в другом: защитные барьеры постепенно размываются, а значит, лучше закрывать уязвимости заранее, чем ждать первого громкого инцидента.

Особенно тревожит экспертов рынок синтетической ДНК. Сегодня заказать нужную генетическую последовательность можно сравнительно быстро и недорого. А если ИИ поможет подобрать или замаскировать опасный заказ, существующие системы контроля могут не справиться.

В качестве примера авторы приводят исследование Microsoft, опубликованное в прошлом году. Тогда ИИ-системы для проектирования белков смогли сгенерировать потенциально опасные последовательности, которые прошли мимо фильтров поставщиков. Формально это были новые белки, но по структуре они напоминали уже известные опасные образцы.

Из этого подписанты делают вывод: проверять нужно не только клиентов биотехнологических компаний, но и сами ИИ-системы. Иными словами, фильтры безопасности придётся строить сразу на нескольких уровнях.

Любопытно, что главным событием здесь многие считают даже не содержание письма, а список подписантов. Когда Альтман и Амодеи оказываются под одним документом, значит, вопрос действительно считают серьёзным.

Минцифры придумало единый пульт для отзыва персональных данных россиян

Минцифры предложило создать единую платформу для управления согласиями на обработку персональных данных. Все 2,6 млн операторов должны будут передавать туда сведения, а граждане получат одно окно, где можно увидеть, кому и когда они разрешили работать со своими данными, а при необходимости — отозвать согласие.

Идея вошла в обсуждаемую версию третьего пакета антифрод-мер. Правда, гладко она выглядит только на презентации. Центробанк и Минэкономразвития уже выступили против запуска платформы в нынешнем виде.

В ЦБ считают, что сначала необходимо создать полноценный информационный ресурс и проверить его работу, а уже потом вводить обязанности для бизнеса. Иначе компании получат не защиту от мошенников, а новую порцию правовой неопределённости.

Минэкономразвития тоже предлагает не спешить. Сейчас платформа проходит добровольную апробацию лишь в отдельных отраслях. Перед обязательным внедрением ведомство призывает изучить итоги эксперимента, учесть специфику разных сфер и оценить, потянет ли нововведение малый бизнес.

Участники рынка, по данным «Коммерсанта», настроены ещё мрачнее. В Ассоциации больших данных предупреждают: подключение к ЕСИА с высокими требованиями к защите информации доступно крупным компаниям, но для небольших организаций может стать неподъёмным. Передача миллиардов записей потребует огромных расходов на инфраструктуру и одновременно создаст новую жирную цель для утечек.

Есть и технический квест. Сопоставить внутренние аккаунты компаний с профилями на «Госуслугах» без обязательной аутентификации через ЕСИА почти невозможно. А бумажные согласия трёх-пятилетней давности нельзя просто загрузить в систему из-за отсутствия нужных метаданных. Если заставить клиентов подтверждать их заново, сервисы рискуют захлебнуться в пуш-уведомлениях.

Эксперты предлагают переходный период продолжительностью 12-18 месяцев и поэтапное внедрение. В Минцифры пока подчёркивают, что пакет только обсуждается.

RSS: Новости на портале Anti-Malware.ru