Роботов можно взломать голосом и превратить в оружие за минуты

Роботов можно взломать голосом и превратить в оружие за минуты

Роботов можно взломать голосом и превратить в оружие за минуты

Коммерческие роботы оказались куда уязвимее, чем принято считать. Эксперты по кибербезопасности предупреждают: некоторые модели можно взломать за считаные минуты, причём без сложных инструментов — достаточно голоса или беспроводного соединения.

Это наглядно продемонстрировали китайские исследователи в недавних тестах и на хакерских соревнованиях GEEKCon в Шанхае.

Специалисты показали, как уязвимости в роботах позволяют получить полный контроль над машиной, а затем распространить атаку на другие устройства поблизости.

Оказалось, что современные гуманоидные роботы можно буквально «перехватить» с помощью голосовых команд. В ходе эксперимента был использован коммерческий робот Unitree стоимостью около 100 тысяч юаней (примерно $14,2 тыс.), оснащённый встроенным ИИ-агентом для автономного управления и взаимодействия с человеком.

Из-за уязвимости в системе управления исследователям удалось обойти защитные механизмы и получить полный контроль над роботом, пока тот был подключён к интернету. Но на этом эксперимент не закончился. Уже взломанный робот передал эксплойт другому устройству — даже без подключения к Сети, используя беспроводную связь на короткой дистанции. Через несколько минут второй робот также оказался под контролем атакующих.

Чтобы показать, что речь идёт не о теоретических рисках, исследователи дали роботу агрессивную команду. Машина двинулась к манекену на сцене и ударила его. Демонстрация стала наглядным напоминанием: даже отключение от интернета не гарантирует безопасность, если роботы работают в группе.

Проблемы с безопасностью роботов Unitree всплывали и ранее. В октябре исследователи сообщили об уязвимости в Bluetooth, которая позволяет получить root-доступ по воздуху. Это открывает путь к созданию своеобразных «робо-ботнетов», когда один взломанный робот заражает остальные.

В отличие от классических кибератак, где последствия ограничиваются утечками данных или финансовыми потерями, взлом роботов несёт прямую физическую угрозу. По мере того как машины становятся мобильнее и автономнее, они потенциально могут причинить вред людям или нарушить работу критически важных процессов.

Как отмечает South China Morning Post, пока интеллектуальные роботы в основном используются в демонстрационных зонах, офисах и учебных проектах. Но их всё чаще рассматривают для задач в инфраструктуре, медицине, охране и уходе за пожилыми людьми — и здесь цена ошибки резко возрастает.

Эксперты предупреждают: взломанный домашний робот может тайно собирать конфиденциальную информацию или представлять угрозу для жильцов. В промышленности скомпрометированные машины способны выводить из строя производственные линии, вызывать остановки и даже приводить к жертвам. А в случае автономного транспорта речь может идти уже не о сбое, а о целенаправленно «вооружённой» системе.

Российские суды начали тестировать четыре ИИ-модели на судебных решениях

В российских судах в пилотном режиме заработали четыре большие языковые модели, обучающиеся на правовых позициях Верховного суда и значимых судебных решениях. Об этом заявил председатель ВС РФ Игорь Краснов на форуме руководителей верховных судов стран БРИКС в Нью-Дели.

Нейросетям показывают практику по актуальным для граждан и бизнеса вопросам, передаёт «Интерфакс».

Предполагается, что ИИ поможет судьям поддерживать единообразие решений, замечать противоречия и ошибки, а заодно сделает правосудие более предсказуемым. Проще говоря, одинаковые дела должны реже заканчиваться совершенно разными выводами в соседних регионах.

Какие именно модели участвуют в эксперименте, где они работают и какие задачи им разрешено выполнять, пока не раскрывается. Судя по заявленным целям, речь идёт об аналитических помощниках, а не электронных судьях, самостоятельно выносящих приговоры.

Верховный суд также разработал совместно с крупными ИТ-компаниями правила этики для нейросетей. В мае Краснов поручил масштабно изучить практику по делам, связанным с применением ИИ, чтобы сформировать единые подходы к новым спорам и правонарушениям.

Теперь искусственный интеллект будет учиться не только на интернете, но и на российских судебных делах.

RSS: Новости на портале Anti-Malware.ru