Российский исследователь взломал репозиторий и багтрекер Ruby on Rails

Российский исследователь взломал репозиторий и багтрекер Ruby on Rails

Проникновение было осуществлено с целью наглядно продемонстрировать наличие изъяна в системе безопасности среды Ruby on Rails и веб-приложений, разработанных с ее помощью. До этого специалист активно пытался убедить разработчиков в серьезности проблемы, однако не встретил понимания и решил последовать старому правилу - лучше один раз увидеть, чем сто раз услышать.

Среда Ruby on Rails предназначена для построения веб-приложений на языке Ruby. Ее основная задача состоит в упрощении и оптимизации процесса разработки программных продуктов. Одним из наиболее популярных сетевых проектов, при создании и сопровождении которого применялась эта среда, является GitHub - крупная платформа для хранения исходных кодов и совместной работы над ними. На этой площадке размещается в том числе и официальный репозиторий Ruby on Rails вкупе с системой отслеживания ошибок и изъянов в ПО.

В четверг отечественный исследователь заявил об уязвимости в этой программной среде, отметив, что ее успешная эксплуатация может окончиться введением посторонних сведений в базу данных приложений Ruby on Rails через внешние веб-формы - почти как в случае с SQL-инъекциями. Проблема произрастает из функции под названием "массовое назначение", особенности которой можно злонамеренно использовать - если не приняты надлежащие меры безопасности. Вообще говоря, теоретическая возможность злоупотребления этим функционалом была описана еще несколько лет назад, однако команда Ruby on Rails сочла, что ответственность за управление "массовым назначением" должна лежать на самих разработчиках программных продуктов.

"Массовое назначение" - это функция управления программными атрибутами. Программисты Ruby on Rails предпочли использовать подход белого списка: по умолчанию разрешено изменять все атрибуты, а создатели веб-приложений должны самостоятельно составлять черный список тех параметров, которые потенциально опасны и запрещены к модифицированию. Альтернативный подход диаметрально противоположен (и более безопасен): запретить изменение всех атрибутов и возложить на разработчиков задачу их выборочной активации по мере необходимости и целесообразности.

Такая организация работы с атрибутами потенциально приводит к возникновению множества недостаточно защищенных сетевых ресурсов, о чем и говорил российский специалист в своем заявлении. После безуспешных попыток убедить в этом команду Ruby on Rails он решил показать, что даже один из наиболее успешных проектов, вышедших из этой среды - GitHub, - не обеспечен надлежащей защитой от "массового назначения". Создав ложную запись с особыми параметрами в багтрекере, он впоследствии сумел подменить публичный ключ одного из разработчиков своим собственным и присвоить права на доступ к репозиторию. Это позволило ему ввести в проект новый файл, продемонстрировав тем самым, что исходные коды Ruby on Rails подвержены риску несанкционированной модификации.

Администрация GitHub оперативно устранила уязвимость и начала общий аудит с целью обнаружить новые потенциальные изъяны. Учетная запись исследователя была приостановлена, но затем возобновлена - когда технические специалисты проекта убедились, что в его действиях не было злого умысла. По-видимому, теперь разработчики Ruby on Rails не будут столь категоричны в своих суждениях и с большей охотой займутся поиском решений проблемы "массового назначения".

PC World

Письмо автору

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

RSS: Новости на портале Anti-Malware.ru