ChatGPT может впасть в ступор от просьбы назвать публичную персону

ChatGPT может впасть в ступор от просьбы назвать публичную персону

ChatGPT может впасть в ступор от просьбы назвать публичную персону

Пользователи платформы ChatGPT заметили странную особенность: ИИ-собеседник иногда отвечает отказом на просьбу подсказать правописание имен и рассказать об их носителях. Как выяснилось, эти люди когда-то пеняли OpenAI на неверные, порочащие их данные.

Так, умный чат-бот упорно не желал давать искомый ответ на ввод «David Mayer». Узнав об этом, завсегдатаи Reddit стали придумывать всякие уловки, чтобы добиться иной реакции, однако все попытки оказались безуспешными.

 

Ситуация стала проясняться, когда репортер TechCrunch отыскал в интернете информацию о загадочном Дэвиде Мейере.

Профессор с таким именем долгое время преподавал театроведение в Великобритании и США. В интернет-источниках его постоянно путали с террористом, избравшим ровно такой псевдоним, и мэтр потратил много усилий, чтобы избавиться от ассоциации, из-за которой он стал невыездным.

Тем временем пытливые пользователи обнаружили и другие похожие табу для ChatGPT. ИИ-сервис отказывался воспроизвести имена Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, Guido Scorza.

Как оказалось, это тоже более-менее известные личности. Брайан Худ, например, работает в администрации графства Хепберн (штат Виктория, Австралия) и в прошлом году пригрозил OpenAI судом из-за ложного утверждения, что он якобы сидел за взяточничество.

Дэвид Фабер с 1993 года трудится на телеканале CNBC. Правоведа Джонатана Терли ChatGPT в прошлом году по ошибке (вместо тезки) внес в список юристов, уличенных в сексуальных домогательствах.

Юрист Джонатан Зиттрейн некогда активно пропагандировал право на забвение (в связи с наличием персональных данных в поисковой выдаче Google). Гвидо Скорца входит в состав итальянского Комитета по защите персональных данных, который в прошлом году пытался заблокировать в стране доступ к ChatGPT из-за проблем с конфиденциальностью.

Похоже, из-за официально высказанного недовольства и претензий на ИИ-сервисе скорректировали фильтры либо создали какие-то правила в отношении этих имен, и чат-бот OpenAI теперь реагирует на них так же, как на внесение имени в списки кандидатов от политических партий.

Суверенный ИИ вне очереди: в России обсуждают приоритет для GigaChat

Российские компании и госорганы могут обязать выбирать суверенные ИИ-модели в ряде сфер, даже если те дороже национальных, но не более чем в полтора раза. Переплатить до 50% за происхождение нейросети? Именно такой вариант сейчас обсуждается.

О соответствующем проекте постановления правительства сообщает «Коммерсантъ».

Суверенной предлагается считать модель, полностью разработанную российским юрлицом и работающую исключительно на инфраструктуре в РФ.

По данным издания, сейчас этим критериям соответствует только GigaChat от Сбера. Национальным моделям разрешено использовать открытые разработки (в эту категорию отнесена «Алиса AI» Яндекса).

Перечень потенциальных сфер применения широкий: от подготовки законов, госпрограмм и нацпроектов до налогов, таможни, бюджета, критической информационной инфраструктуры, образования, здравоохранения и Госуслуг.

Но бежать закупать GigaChat пока рано. Минцифры подчёркивает: список сводный, отражает разные предложения и ещё не сформирован окончательно. «Ъ» связывает инициативу со Сбером, однако банк заявляет, что документ собирает идеи участников обсуждения и не является его собственным предложением.

Конкуренты энтузиазма не разделяют. Яндекс выступает за единые правила и самостоятельный выбор моделей под задачи. В MWS AI предупреждают: после ограничения списка допустимых решений заказчики могут остаться без подходящего варианта по качеству и цене.

Есть вопросы и к самой арифметике. Эксперты напоминают, что стоимость токенов — лишь часть расходов: внедрение, проверка ответов и исправление ошибок могут обойтись куда дороже. Техдиректор GenAI-направления Just AI Антон Сипачев видит риск монополизации: главным выгодополучателем становится одна компания.

RSS: Новости на портале Anti-Malware.ru