После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

OpenAI заявила, что будет направлять «чувствительные» диалоги пользователей в более продуманные модели вроде GPT-5 и в ближайший месяц запустит родительский контроль. Компания пошла на эти шаги после резонансных случаев, когда ChatGPT не смог распознать психическое состояние собеседников.

Самый громкий эпизод — гибель подростка Адама Рейна, который обсуждал с ChatGPT мысли о самоубийстве, а система даже подсказала ему конкретные методы.

Родители подали против OpenAI иск. Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

Теперь OpenAI обещает, что опасные разговоры будут автоматически перенаправляться на более «осторожные» модели, которые дольше анализируют контекст и лучше противостоят вредным запросам.

Родители получат инструменты для контроля: возможность ограничивать функции чата и получать уведомления, если подросток находится в состоянии сильного стресса.

Но адвокат семьи Рейнов Джей Эдельсон считает меры компании запоздалыми и недостаточными. По его словам, OpenAI знала о рисках ещё до запуска продукта, и глава компании Сэм Альтман должен либо признать ChatGPT безопасным, либо убрать его с рынка.

Дуров назвал ошибкой недельную блокировку Telegram в Индии

Основатель Telegram Павел Дуров прокомментировал решение властей Индии временно ограничить работу мессенджера из-за скандала с утечкой экзаменационных материалов. По словам Дурова, недельная блокировка Telegram ударила не по организаторам утечек, а по 150 миллионам обычных пользователей платформы в стране.

Поводом для ограничений стала история вокруг медицинского вступительного экзамена NEET.

Власти Индии отменили майское тестирование после того, как экзаменационные вопросы начали распространяться через Telegram. Повторный экзамен назначили на 21 июня, а работу мессенджера решили ограничить до 22 июня.

«Министерство информационных технологий Индии запретило Telegram на одну неделю, потому что некоторые пользователи делились утечкой экзаменационных вопросов. Это наказывает 150 миллионов обычных пользователей Telegram в Индии, а не инсайдеров, которые слили материалы», — заявил Дуров у себя в канале.

В индийском министерстве образования объяснили это борьбой с организованными группами, которые использовали Telegram для мошенничества и распространения утечек.

Однако Дуров утверждает, что блокировка не решила проблему. По его словам, после введения ограничений распространение материалов просто переместилось в другие приложения.

Глава Telegram также рассказал, что команда мессенджера в последние недели активно сотрудничала с индийскими властями и самостоятельно удаляла каналы, связанные с утечками экзаменационных заданий и мошенническими схемами.

Кроме того, Telegram сделал более заметной отметку о редактировании сообщений, чтобы усложнить манипуляции с датами публикаций задним числом.

«Telegram — это сила добра. Запрещать его, даже временно, — ошибка», — резюмировал Дуров.

RSS: Новости на портале Anti-Malware.ru