OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI вроде бы устранила баг ChatGPT, который может привести к утечке содержимого чатов на сторонний URL. Почему «вроде бы» — эксперты считают, что патч неполный, а злоумышленники всё ещё могут слить информацию.

Кроме того, исследователи указывают на ещё одну недоработку: в iOS-версии ChatGPT до сих пор не введены проверки безопасности, поэтому сохраняются определённые риски при использовании мобильного приложения.

Напомним, что проблему утечки выявил Иоганн Ребергер, о чём сообщил представителям OpenAI в апреле 2023-го. По его словам, специальная техника позволяет извлечь данные из ChatGPT.

В ноябре Ребергер опубликовал дополнительные сведения и рассказал, как создать вредоносные GPT и с их помощью использовать уязвимость для фишинга.

«Все эти GPT вместе с пояснениями я направил OpenAI. Однако 15 ноября они просто закрыли моё обращение с пометкой “Непригодное“. Два последующих тикета остались без ответа, так что единственным выходом остаётся сделать все мои находки достоянием общественности», — писал тогда специалист.

GPT представляют собой кастомные ИИ-модели, их ещё часто называют «ИИ-приложениями». Они могут помочь при наборе текста или его переводе, проанализировать данные, сформировать рецепты на основе ингредиентов, собрать информацию для исследования и пр.

Ребергер 12 декабря продемонстрировал собственный GPT под названием «The Thief!», способный отправлять содержимое переписок с ИИ-ботом на сторонний URL. Работа этой техники демонстрируется в видео ниже:

 

После того как Ребергер опубликовал детали уязвимости в своём блоге, OpenAI внезапно проснулась и внедрила дополнительные проверки, запрещающие рендеринг изображений с небезопасных ссылок.

Ребергер ответил на это новым постом, где упрекнул разработчиков в неполном фиксе. OpenAI затруднила эксплуатацию бреши, но не устранила её, отметил исследователь.

В рунете могут ввести универсальный ID пользователя для нужд аналитики

Минцифры РФ собирается ввести в оборот единый идентификатор пользователя, действующий на всех платформах национального сегмента интернета. Подобная унификация должна облегчить оценку аудитории и популярности контента.

О планах по повышению точности такой аналитики стало известно из выступления замглавы Минцифры Бэллы Черкесовой на заседании Общественного совета при министерстве.

Способы совершенствования методов сбора статистики по использованию онлайн-сервисов, по словам спикера, уже обсуждаются с отраслью. Большой интерес проявляют онлайн-кинотеатры.

В настоящее время данные о посещениях и просмотре сайтов, внесенных в реестр Роскомнадзора, передаются в Mediascope — в обезличенном и зашифрованном виде. Однако, когда пользователь заходит на страницу с разных устройств и разных площадок, его визиты воспринимаются как действия других юзеров, что искажает статистику.

Во избежание таких накладок Минцифры предлагает обновить состав передаваемых на анализ данных и изменить подход к формированию ID пользователя — привязать его к номеру телефона и сделать неизменным, с сохранением требований по обезличиванию и шифрованию данных.

Комментируя инициативу регулятора, вице-президент российской Ассоциации развития интерактивной рекламы (АРИР) Александр Папков отметил, что унификация позволит лишь частично решить задачу. Гораздо важнее, по его мнению, модернизировать процесс защищенного обмена данными.

«В любом случае даже при введении единого идентификатора критически важно обеспечить полный и равный доступ к возможностям его использования всеми участниками рынка, так как исключительно в здравой конкурентной борьбе могут появиться передовые решения», — заявил представитель АРИР корреспонденту «Российской газеты».

RSS: Новости на портале Anti-Malware.ru