Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

В прошлом месяце ИИ-бот ChatGPT обрел новый генератор изображений с выпуском модели 4o. Первые пробы показали, что создаваемые с его помощью картинки с вставленным текстом стали более реалистичными.

Пользователи ChatGPT теперь заставляют его генерировать ресторанные счета и получают вполне убедительные дипфейки.

Фото одной из таких фальшивок было опубликовано в X.

 

 

 

Другие юзеры подхватили идею, добились схожих результатов, а в одном из случаев тот же фейковый счет был для большего правдоподобия «испачкан»:

 

Наиболее реалистичный образец получился у французского специалиста в области ИИ — из-за эффекта помятой бумаги.

 

В TechCrunch тоже опробовали новинку и получили вполне сносный вариант для гриль-бара в Сан-Франциско. Правда, в итоговой сумме вместо точки стояла запятая, к тому же у ChatGPT, видимо, плохо с арифметикой, но эти огрехи при желании можно быстро исправить, конкретизировав подсказки, или с помощью графического редактора.

 

В комментарии для онлайн-издания представитель OpenAI заявила, что все изображения, генерируемые ИИ-ботом, снабжены соответствующими метаданными. Обнаружив нарушение пользовательского соглашения, компания «принимает меры» и «учится» на таких случаях.

В ответ на вопрос, зачем вообще позволять ChatGPT соглашаться на авантюры, попахивающие злоупотреблением, собеседница подчеркнула, что их цель — предоставить юзерам «как можно больше свободы творчества». К тому же фейковые счета необязательно нужны для мошенничества, их можно использовать в целях финансового ликбеза, а также для создания оригинальных картин или продуктовой рекламы.

Алиса всё-таки слышит звук до команды, Яндекс объяснил зачем

Яндекс выпустил большой технический ответ на разбор своих Android-приложений, автор которого заподозрил их в сборе аудио, контактов, данных банковских карт и другой конфиденциальной информации. В компании заявили: часть механизмов обнаружена верно, но выводы о тотальной слежке собраны не по адресу.

Главный вопрос — микрофон. По версии Яндекса, Алиса локально ждёт активационную фразу только при открытом приложении и не записывает разговоры непрерывно.

Однако в оперативной памяти действительно работает циклический аудиобуфер: примерно 1,5 секунды до активации и 0,5 секунды после неё. Часть звука перед командой может отправляться на сервер для проверки качества распознавания.

Компания признала, что возможность удалённо менять размер буфера способна насторожить пользователей, и пообещала жёстко ограничить его в одном из ближайших релизов.

Доступ к контактам Яндекс объяснил голосовыми командами вроде «Позвони маме». При первой синхронизации на сервер может передаваться вся адресная книга, затем — только изменения. Имена и номера не хешируются: компании нужны исходные значения для распознавания речи.

В Яндексе подчёркивают, что приложение не читает переписку в WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России), Telegram и Viber, а видит лишь способы связи, опубликованные мессенджерами в системной адресной книге Android.

Обвинения в небезопасной обработке банковских карт компания также отвергла. Их реквизиты, как утверждается, уходят напрямую в изолированный PCI DSS-контур, а не на обычные серверы приложения.

Проверку VPN-интерфейса объяснили сетевой диагностикой, резервный DNS — обходом сбоев провайдера, а список других приложений в манифесте — стандартным механизмом Android.

Напомним, на днях Яндекс также рассказал, что в корпорации создали отдельный язык для расчёта стоимости поездок.

RSS: Новости на портале Anti-Malware.ru