Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

В ИИ-индустрии произошло почти невероятное событие. Главы OpenAI, Anthropic, Google DeepMind и Microsoft AI выступили единым фронтом и попросили Конгресс США срочно ужесточить правила продажи синтетической ДНК и РНК.

3 июня Сэм Альтман, Дарио Амодеи, Демис Хассабис и Мустафа Сулейман подписали открытое письмо, в котором призвали обязать компании, занимающиеся синтезом генетического материала, проверять не только сами заказы, но и их заказчиков.

Причина проста: ИИ становится слишком хорошим помощником. Авторы письма опасаются, что современные языковые модели постепенно снижают порог входа в область биотехнологий.

Если раньше потенциальному злоумышленнику требовались серьёзные знания в биологии, то теперь часть информации может подсказать нейросеть: где искать нужные гены, как формулировать запросы и каким образом обходить существующие механизмы проверки.

Впрочем, паники в письме нет. Подписанты отдельно подчёркивают, что современные ИИ-модели пока не способны самостоятельно разработать полноценный патоген с нуля. Для этого всё ещё нужны профессиональные знания и практические навыки.

Но проблема, по их мнению, в другом: защитные барьеры постепенно размываются, а значит, лучше закрывать уязвимости заранее, чем ждать первого громкого инцидента.

Особенно тревожит экспертов рынок синтетической ДНК. Сегодня заказать нужную генетическую последовательность можно сравнительно быстро и недорого. А если ИИ поможет подобрать или замаскировать опасный заказ, существующие системы контроля могут не справиться.

В качестве примера авторы приводят исследование Microsoft, опубликованное в прошлом году. Тогда ИИ-системы для проектирования белков смогли сгенерировать потенциально опасные последовательности, которые прошли мимо фильтров поставщиков. Формально это были новые белки, но по структуре они напоминали уже известные опасные образцы.

Из этого подписанты делают вывод: проверять нужно не только клиентов биотехнологических компаний, но и сами ИИ-системы. Иными словами, фильтры безопасности придётся строить сразу на нескольких уровнях.

Любопытно, что главным событием здесь многие считают даже не содержание письма, а список подписантов. Когда Альтман и Амодеи оказываются под одним документом, значит, вопрос действительно считают серьёзным.

Подпишитесь на новости

Яндекс собрал защиту облаков, паролей и ботов под брендом Yandex Security

Yandex B2B Tech запускает новое направление Yandex Security и собирается защищать уже не только собственное облако. В зону ответственности войдут локальные, гибридные и мультиоблачные инфраструктуры, даже если ресурсы компании разложены по нескольким провайдерам.

Центром управления станет Security Deck. Платформа будет собирать в одном интерфейсе информацию о правах доступа, рисках и ошибках конфигурации в разных облаках.

Подключение, по заявлению компании, займёт несколько минут, а до конца года Яндекс рассчитывает привлечь нескольких крупных облачных провайдеров-партнёров.

Одной сменой вывески дело не ограничится. Как сообщила Yandex B2B Tech, в Security Deck появится модуль Access Analyzer. Он будет искать избыточные полномочия, неиспользуемые сервисные аккаунты и предлагать более узкие роли в соответствии с принципом минимальных привилегий. Потому что выдавать всем права администратора — быстро, удобно и очень удобно злоумышленникам.

Сервис Identity Hub получит беспарольную аутентификацию на базе WebAuthn и FIDO2. Сотрудники смогут входить в корпоративные системы по лицу, отпечатку пальца или с помощью аппаратного ключа. Администраторы смогут настроить MFA либо полностью запретить пароли, которые невозможно украсть только в одном случае — когда их вообще нет.

Обновится и Yandex Smart Web Security. Новый механизм JS-Challenge будет проверять посетителей сайта в фоне и показывать капчу лишь при наиболее подозрительной активности. Обычный пользователь пройдёт незаметно, а ботам придётся доказывать, что они не боты. Иронично, но справедливо.

Yandex Security объединит собственные разработки компании и решения SolidLab. Главная ставка — централизованная защита инфраструктуры независимо от места её размещения.

RSS: Новости на портале Anti-Malware.ru