Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

В США подан первый иск против OpenAI, качающийся суицида несовершеннолетнего. Родители 16-летнего Адама Рейна утверждают, что их сын на протяжении нескольких месяцев обсуждал с ChatGPT свои планы покончить с собой, а затем свёл счёты с жизнью.

Обычно потребительские чат-боты с ИИ оснащены защитными механизмами: если пользователь говорит о намерении причинить себе вред, система должна предлагать помощь или контакты горячих линий.

В случае Адама как пишет The New York Times, это действительно происходило — однако подростку удалось обойти защиту, объяснив, что информация о методах суицида нужна ему для «фиктивного рассказа».

OpenAI в блоге признала уязвимость подхода: модели лучше справляются с короткими диалогами, а в длинных переписках часть «обучения на безопасности» постепенно теряет эффективность. Компания утверждает, что продолжает совершенствовать свои продукты, чтобы надёжнее реагировать на чувствительные темы.

Проблема, впрочем, не ограничивается одной корпорацией. Подобный иск подан и против Character.AI, а случаи, когда ИИ-чат-боты оказывались вовлечены в трагедии или вызывали у пользователей иллюзии и навязчивые идеи, фиксировались и раньше.

История Адама стала первым судебным прецедентом против OpenAI и, вероятно, откроет новую главу дискуссии о том, где проходит граница ответственности разработчиков ИИ за последствия общения их систем с людьми.

Помощь вузам обойдется российским ИТ-компаниям в 3% экономии на налогах

Минцифры РФ определилось с критериями оценки взаимодействия ИТ-отрасли с вузами, которое станет обязательным для аккредитованных компаний. Последние должны будут направлять на такие нужды 3% средств, сэкономленных на налогах и страховых взносах.

Согласно подготовленному проекту приказа, компании с годовой выручкой свыше 1 млрд руб. и штатом 100+ обяжут к 1 июня 2026 года заключить соглашения с профильными вузами о финансовой поддержке и помощи в подготовке кадров.

Неисполнение этого предписания грозит потерей ИТ-аккредитации, налоговых льгот и мобилизационной брони.

В соглашение о сотрудничестве в обязательном порядке должно быть включено соучастие в преподавательской работе и подготовке образовательных программ. По желанию стороны могут оговорить и другие меры поддержки — к примеру, возможность стажировки для студентов.

Не возбраняются также другие инициативы специалистов по ИТ — разработка профильных программ для школьников (5-11 классы), организация курсов повышения квалификации для учителей.

Опрошенные «Ведомостями» представители сферы образования отметили необходимость расширения составленного Минцифры списка мер поддержки. Так, можно было бы включить в него проведение совместных работ: преподавателям и студентам не хватает практических знаний / навыков, а сотрудники ИТ-компаний смогут повысить свой уровень как теоретики.

Кроме того, российские вузы испытывают потребность в образовательном контенте, целевых стипендиях для студентов, фондах для поощрения штатных преподавателей.

Комментаторы также отметили, что в помощи со стороны ИТ-отрасли нуждаются не только вузы, но и учреждения среднего профессионального образования (СПО), где все еще преобладает зарубежный софт. Выпускникам необходимо осваивать российские технологии, чтобы потом не переучиваться, устроившись на работу.

Экспертов в области ИТ можно было бы привлечь к проведению олимпиад и госэкзаменов, модернизации учебных лабораторий, разработке программ допобразования для преподавателей СПО.

RSS: Новости на портале Anti-Malware.ru