Команда ученых Вашингтонского университета, обеспокоенная тем, что инфраструктура безопасности вокруг расшифровки и анализа ДНК попросту отсутствует, обнаружила элементарные уязвимости в программном обеспечении с открытым исходным кодом, используемом в лабораториях по всему миру.
Учитывая характер данных, которые обычно обрабатываются в таких лабораториях, это может стать серьезной проблемой в будущем. Согласно исследованиям, ДНК можно назвать «файловой системой» любого живого организма. Различные программы анализа, используемые учеными по всему миру, разбирают ДНК-нити на составляющие (цитозин, тимин и т. д., A, T, G и C) и превращают их в двоичные данные,
Существующие сегодня приложения расшифровки считывают необработанные данные, поступающие после анализа, и сортируют их, ищут шаблоны и преобразуют базовые последовательности, которые находят в двоичном коде. Расшифрованные данные открывают почву для атаки, например, связанной с «переполнением буфера» — когда программы выполняют произвольный код, который выходит за пределы ожидаемых параметров.
Речь идет о том, что компьютер, проводящий анализ, может получить какой-то биологический код, который приведет к его зависанию и порче. По иронии судьбы, не совсем верно называть этот код вирусом, хотя при этом он ближе к «реальному» вирусу, чем, возможно, любой вредоносный код, когда-либо написанный.
Можно ли доставить такой вирус с помощью образца крови или даже непосредственно из тела человека? У ученых это получилось. Доработанный биологический образец действительно удалось использовать в качестве вредоносного для лабораторного оборудования. А ведь многие из этих компьютеров подключены к общедоступным облачным сервисам.
Ученые группы исследуют методы и необычные направления для преднамеренных вирусных атак: например, на вживленную электронику, в частности, кардиостимуляторы. По мере того, как биологический и электронный миры сближаются, появляются угрозы, с которыми людям прежде не приходилось сталкиваться. Самые мрачные прогнозы связаны с тем, что люди с любой вживленной электроникой станут крайне уязвимы для биохакеров. Возможен даже летальный исход.
«Все исследования в области ДНК проводятся на высокоточном компьютерном оборудовании, то есть человек вручную уже ничего не делает и с кодом ДНК не работает. Там, где есть программируемый процесс, есть и программное обеспечение, которое за это отвечает. Вот оно как раз и может модифицироваться. Что действительно может случиться — если хакеры заинтересуются биологическими лабораториями, особенно комбинаторикой ДНК-исследований, то они смогут (в теории) влиять на программный код систем, которые управляют этим процессом, для получения нужного результата. Это может быть повреждение исследований или модификация ДНК. Они смогут 'вредить' или создавать новый ДНК удаленно», - комментирует Евгений Черешнев, президент Sons of Digital Anarchy и обладатель биочипа.
Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.
В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.
Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.
Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.
В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.
Свидетельство о регистрации СМИ ЭЛ № ФС 77 - 68398, выдано федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) 27.01.2017 Разрешается частичное использование материалов на других сайтах при наличии ссылки на источник. Использование материалов сайта с полной копией оригинала допускается только с письменного разрешения администрации.
