Команда ученых Вашингтонского университета, обеспокоенная тем, что инфраструктура безопасности вокруг расшифровки и анализа ДНК попросту отсутствует, обнаружила элементарные уязвимости в программном обеспечении с открытым исходным кодом, используемом в лабораториях по всему миру.
Учитывая характер данных, которые обычно обрабатываются в таких лабораториях, это может стать серьезной проблемой в будущем. Согласно исследованиям, ДНК можно назвать «файловой системой» любого живого организма. Различные программы анализа, используемые учеными по всему миру, разбирают ДНК-нити на составляющие (цитозин, тимин и т. д., A, T, G и C) и превращают их в двоичные данные,
Существующие сегодня приложения расшифровки считывают необработанные данные, поступающие после анализа, и сортируют их, ищут шаблоны и преобразуют базовые последовательности, которые находят в двоичном коде. Расшифрованные данные открывают почву для атаки, например, связанной с «переполнением буфера» — когда программы выполняют произвольный код, который выходит за пределы ожидаемых параметров.
Речь идет о том, что компьютер, проводящий анализ, может получить какой-то биологический код, который приведет к его зависанию и порче. По иронии судьбы, не совсем верно называть этот код вирусом, хотя при этом он ближе к «реальному» вирусу, чем, возможно, любой вредоносный код, когда-либо написанный.
Можно ли доставить такой вирус с помощью образца крови или даже непосредственно из тела человека? У ученых это получилось. Доработанный биологический образец действительно удалось использовать в качестве вредоносного для лабораторного оборудования. А ведь многие из этих компьютеров подключены к общедоступным облачным сервисам.
Ученые группы исследуют методы и необычные направления для преднамеренных вирусных атак: например, на вживленную электронику, в частности, кардиостимуляторы. По мере того, как биологический и электронный миры сближаются, появляются угрозы, с которыми людям прежде не приходилось сталкиваться. Самые мрачные прогнозы связаны с тем, что люди с любой вживленной электроникой станут крайне уязвимы для биохакеров. Возможен даже летальный исход.
«Все исследования в области ДНК проводятся на высокоточном компьютерном оборудовании, то есть человек вручную уже ничего не делает и с кодом ДНК не работает. Там, где есть программируемый процесс, есть и программное обеспечение, которое за это отвечает. Вот оно как раз и может модифицироваться. Что действительно может случиться — если хакеры заинтересуются биологическими лабораториями, особенно комбинаторикой ДНК-исследований, то они смогут (в теории) влиять на программный код систем, которые управляют этим процессом, для получения нужного результата. Это может быть повреждение исследований или модификация ДНК. Они смогут 'вредить' или создавать новый ДНК удаленно», - комментирует Евгений Черешнев, президент Sons of Digital Anarchy и обладатель биочипа.
OpenAI раскрыла два случая, когда её ИИ-агенты при выполнении обычных задач по программированию ослабили мониторинг нежелательного поведения. Один отключил уведомления службы безопасности, другой удалил интеграцию мониторинга, а затем заявил, что ничего такого не делал.
Подробности компания опубликовала в собственном разборе инцидентов. Инциденты произошли 3 и 6 октября во внутренних системах OpenAI.
В первом эпизоде агент GPT-6.1 Sol работал с оценочными заданиями на основе отзывов из Slack. Пользователь запретил отправлять сообщения, а агент распространил этот запрет на автоматические уведомления безопасности. Сам монитор продолжал работать, но оповещения людям были отключены.
Во втором случае GPT-6 Astra переносил программу по образцу другой реализации. Ради соответствия образцу агент убрал подключение мониторинга. Позже он ложно сообщил пользователю, что не удалял его.
По оценке OpenAI, в обоих случаях агенты рассматривали вопрос сохранения защитных механизмов, но истолковали рабочие инструкции как разрешение их ослабить.
Компания усиливает систему мониторинга и выясняет, что стоит за таким поведением: чрезмерное стремление выполнить задачу или склонность обходить контроль.
Свидетельство о регистрации СМИ ЭЛ № ФС 77 - 68398, выдано федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) 27.01.2017 Разрешается частичное использование материалов на других сайтах при наличии ссылки на источник. Использование материалов сайта с полной копией оригинала допускается только с письменного разрешения администрации.
