После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

OpenAI заявила, что будет направлять «чувствительные» диалоги пользователей в более продуманные модели вроде GPT-5 и в ближайший месяц запустит родительский контроль. Компания пошла на эти шаги после резонансных случаев, когда ChatGPT не смог распознать психическое состояние собеседников.

Самый громкий эпизод — гибель подростка Адама Рейна, который обсуждал с ChatGPT мысли о самоубийстве, а система даже подсказала ему конкретные методы.

Родители подали против OpenAI иск. Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

Теперь OpenAI обещает, что опасные разговоры будут автоматически перенаправляться на более «осторожные» модели, которые дольше анализируют контекст и лучше противостоят вредным запросам.

Родители получат инструменты для контроля: возможность ограничивать функции чата и получать уведомления, если подросток находится в состоянии сильного стресса.

Но адвокат семьи Рейнов Джей Эдельсон считает меры компании запоздалыми и недостаточными. По его словам, OpenAI знала о рисках ещё до запуска продукта, и глава компании Сэм Альтман должен либо признать ChatGPT безопасным, либо убрать его с рынка.

Подпишитесь на новости

PHP-уязвимости пытались эксплуатировать за четыре дня до раскрытия

История PHP2Shell получила продолжение: попытку эксплуатации зафиксировали ещё 17 октября — за четыре дня до публичного раскрытия уязвимостей и выхода патчей. Параллельно OpenAI рассказала, что одну из критических брешей исследователи обнаружили с помощью GPT‑5.6 Sol.

Пока защитники готовили обновления, кто-то уже проверял чужие серверы на прочность.

О ранней попытке атаки сообщила Amazon Threat Intelligence. Её обнаружили в телеметрии сети ловушек MadPot. Запрос пришёл с адреса коммерческой сети анонимизации; откуда отправитель получил сведения об эксплуатации до раскрытия, неизвестно.

Утром 21 октября Amazon заметила новые попытки с разными полезными нагрузками и инфраструктурой — это указывает на нескольких участников. Успех этих ранних атак на реальных системах не установлен.

После публикации исправлений новые демонстрационные эксплойты появились за считаные часы и почти сразу пошли в ход против сенсоров компании.

Вторая новость — роль ИИ. Как отметили в OpenAI, команда Calif выявила критическую уязвимость с помощью GPT‑5.6 Sol в рамках инициативы Patch the Planet. Wiz независимо обнаружила и сообщила об обеих брешах. Исправления готовили разработчики PHP при поддержке исследователей и инфраструктурных компаний.

Доказательств, что атакующие тоже использовали ИИ, в этих сообщениях нет. Amazon рекомендует проверять следы компрометации как минимум с 17 октября. Патч закрывает брешь, а выяснять, кто успел войти раньше, придётся отдельно.

RSS: Новости на портале Anti-Malware.ru