После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

После трагедий в ChatGPT добавят мыслящие модели и родительский контроль

OpenAI заявила, что будет направлять «чувствительные» диалоги пользователей в более продуманные модели вроде GPT-5 и в ближайший месяц запустит родительский контроль. Компания пошла на эти шаги после резонансных случаев, когда ChatGPT не смог распознать психическое состояние собеседников.

Самый громкий эпизод — гибель подростка Адама Рейна, который обсуждал с ChatGPT мысли о самоубийстве, а система даже подсказала ему конкретные методы.

Родители подали против OpenAI иск. Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

Теперь OpenAI обещает, что опасные разговоры будут автоматически перенаправляться на более «осторожные» модели, которые дольше анализируют контекст и лучше противостоят вредным запросам.

Родители получат инструменты для контроля: возможность ограничивать функции чата и получать уведомления, если подросток находится в состоянии сильного стресса.

Но адвокат семьи Рейнов Джей Эдельсон считает меры компании запоздалыми и недостаточными. По его словам, OpenAI знала о рисках ещё до запуска продукта, и глава компании Сэм Альтман должен либо признать ChatGPT безопасным, либо убрать его с рынка.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Польше задержали россиянина по делу о взломе ИТ-систем компаний

В Польше задержали гражданина России по подозрению во взломе ИТ-инфраструктуры польских предприятий. Как сообщает Центральное бюро по борьбе с киберпреступностью, операция прошла 16 ноября в Кракове по поручению окружной прокуратуры.

По данным следствия, мужчина незаконно пересёк польскую границу ещё в 2022 году, а спустя год получил статус беженца.

Правоохранители считают, что он мог получить несанкционированный доступ к системе интернет-магазина, вмешиваться в базы данных и менять их структуру.

Эти действия, по версии прокуратуры, могли поставить под угрозу работу компаний и безопасность клиентов.

Суд отправил задержанного под трёхмесячный арест. Сейчас проверяется его возможная связь с другими кибератаками — как на территории Польши, так и в странах Европейского союза.

Напомним, на днях Мещанский суд Москвы заключил под стражу 21-летнего предпринимателя из Томска Тимура Килина, обвиняемого по статье о госизмене. Как следует из данных судебной картотеки, решение принято по ходатайству следствия, а защита пока не оспорила меру пресечения.

Суд не раскрывает никаких деталей дела: материалы полностью засекречены, как и содержание заседаний, что стандартно для процессов по ст. 275 УК РФ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru