Поисковый бот ChatGPT может DDoS'ить сайты, нужен лишь один HTTP-запрос

Поисковый бот ChatGPT может DDoS'ить сайты, нужен лишь один HTTP-запрос

Поисковый бот ChatGPT может DDoS'ить сайты, нужен лишь один HTTP-запрос

Поведением поискового бота ChatGPT можно манипулировать с помощью выявленной уязвимости: при определённых запросах веб-краулер OpenAI будет фактически проводить DDoS-атаки на произвольные сайты.

Об интересной бреши сообщил исследователь в области кибербезопасности Бенджамин Флеш. По его словам, всего один HTTP-запрос к API ChatGPT может спровоцировать флуд определённого веб-ресурса нескончаемыми сетевыми запросами.

На деле может оказаться, что мощности таких DDoS-атак не хватит для вывода из строя хорошо защищённых сайтов, однако эксперт всё равно считает это недоработкой OpenAI.

Например, веб-краулер ChatGPT может каждую секунду добавлять к одному API-запросу от 20 до 5000 или даже больше таких же запросов к выбранному веб-сайту.

«API ChatGPT содержит серьёзный изъян при обработке запросов HTTP POST к https://chatgpt.com/backend-api/attributions. Если вы скормите API большой список URL, каждый из которых будет совсем незначительно отличаться, но при этом вести на один ресурс, веб-краулер будет стучаться параллельно по всем этим ссылкам», — объясняет Флеш.

К сожалению, поисковой бот не проверяет повторяющиеся ссылки на один и тот же сайт, а также не ограничивает максимальное число гиперссылок в параметре URL.

В случае эксплуатации этого недостатка владелец веб-сайта будет видеть лишь подключение веб-краулера ChatGPT с 20 разных IP-адресов. Даже при блокировке этих адресов файрволом бот ChatGPT всё равно продолжит отправлять запросы.

Нейросеть как цифровой костыль: учёные предупредили об ослаблении мышления

Активное использование искусственного интеллекта может постепенно ослаблять навыки, которые человек передаёт нейросети. К такому выводу пришли исследователи из университетов Ватерлоо, Торонто и Пердью. Впрочем, отправлять ChatGPT на костёр рано: проблема не в самом ИИ, а в привычке использовать его вместо собственной головы.

Учёные называют этот процесс когнитивной разгрузкой. Человек поручает внешнему инструменту запоминать информацию, искать решения и выстраивать рассуждения.

Результат появляется быстрее, но мозг получает меньше практики. Если так продолжается долго, самостоятельно выполнить знакомую задачу становится сложнее.

Показательный эксперимент провели почти с тысячей школьников, изучавших математику. Во время тренировок обычный помощник на базе GPT-4 улучшил их результаты на 48%.


Однако после отключения нейросети ученики написали проверочную работу на 17% хуже группы, которая занималась без ИИ. Другой вариант ИИ-репетитора работал иначе: не выдавал готовое решение, а подталкивал школьников к самостоятельному ответу. В этом случае заметного ухудшения результатов не обнаружили.


Похожий эффект исследователи наблюдали у врачей, применявших ИИ для поиска аденом во время колоноскопии. После возвращения к работе без алгоритма эффективность специалистов снизилась: показатель выявления образований упал с 28,4 до 22,4%.

Особенно опасной такая зависимость может стать в профессиях, где необходимо самостоятельно принимать сложные решения. Чем больше работы забирает алгоритм, тем реже человек тренирует собственные навыки.


Отказываться от нейросетей авторы не предлагают. Безопаснее использовать их для подсказок, объяснений, обратной связи и проверки собственных выводов.

RSS: Новости на портале Anti-Malware.ru