Названа главная опасность подключения мозга к интернету

Названа главная опасность подключения мозга к интернету

Названа главная опасность подключения мозга к интернету

Инженеры из университета Витватерсранд в Южной Африке успешно передали волны человеческого мозга в интернет с помощью электроэнцефалографа и мини-компьютера Raspberry Pi. Об этом сообщает Vice. Это означает, что мозг в скором времени можно будет как подключать к сети, так и взламывать.

«Информация может перемещаться из наших мозгов в сеть и обратно», — считает глава исследовательской группы проекта Brainternet («интернет мозгов»), преподаватель информатики Адам Пантанович (Adam Pantanowitz). Однако ученый обеспокоен этической стороной разработок, которые позволят подключать мозг к интернету так же, как бытовые устройства. Подключения такого типа служат легкой мишенью для хакеров.

Ученый считает, что опасность взлома и управления сознанием людей злоумышленниками станет реальной, когда инженеры научатся не просто передавать, а загружать информацию по сети в человеческий мозг. Пока эксперименты в рамках «интернета мозгов» находятся на начальной стадии, Пантанович предлагает решить некоторые проблемы безопасности заранее. Например, создать для Brainternet новую независимую сеть. Это может быть квантовая сеть, защищенная от вторжений, пишет lenta.ru.

«Если кто-то начинает взлом или подделку информации в середине соединения, то меняется вся природа такой сети, чтобы предупредить о совершаемой атаке», — объясняет Пантанович.

Возможные угрозы, связанные с расширением возможностей мозга за счет подключения к интернету, уже обсуждались научным сообществом. В исследовании, опубликованном в издании Frontiers of Neuroengineering, говорилось, что в будущем хакеры переориентируются на взлом сознания, а не компьютеров.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru