Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

В прошлом месяце ИИ-бот ChatGPT обрел новый генератор изображений с выпуском модели 4o. Первые пробы показали, что создаваемые с его помощью картинки с вставленным текстом стали более реалистичными.

Пользователи ChatGPT теперь заставляют его генерировать ресторанные счета и получают вполне убедительные дипфейки.

Фото одной из таких фальшивок было опубликовано в X.

 

 

 

Другие юзеры подхватили идею, добились схожих результатов, а в одном из случаев тот же фейковый счет был для большего правдоподобия «испачкан»:

 

Наиболее реалистичный образец получился у французского специалиста в области ИИ — из-за эффекта помятой бумаги.

 

В TechCrunch тоже опробовали новинку и получили вполне сносный вариант для гриль-бара в Сан-Франциско. Правда, в итоговой сумме вместо точки стояла запятая, к тому же у ChatGPT, видимо, плохо с арифметикой, но эти огрехи при желании можно быстро исправить, конкретизировав подсказки, или с помощью графического редактора.

 

В комментарии для онлайн-издания представитель OpenAI заявила, что все изображения, генерируемые ИИ-ботом, снабжены соответствующими метаданными. Обнаружив нарушение пользовательского соглашения, компания «принимает меры» и «учится» на таких случаях.

В ответ на вопрос, зачем вообще позволять ChatGPT соглашаться на авантюры, попахивающие злоупотреблением, собеседница подчеркнула, что их цель — предоставить юзерам «как можно больше свободы творчества». К тому же фейковые счета необязательно нужны для мошенничества, их можно использовать в целях финансового ликбеза, а также для создания оригинальных картин или продуктовой рекламы.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

$1 млн за дыру в WhatsApp: на Pwn2Own сорвалась демонстрация эксплойта

На Pwn2Own 2025, организованном Trend Micro, участники получили более миллиона долларов. Однако событие оказалось в тени громкого инцидента — отмены демонстрации взлома WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), который мог принести исследователю $1 млн.

Главный приз в размере $100 000 достался команде, продемонстрировавшей цепочку уязвимостей в устройствах QNAP Qhora-322 (роутер) и QNAP TS-453E (сетевое хранилище).

По $50 000 получили две команды за взлом Samsung Galaxy S25, а также за обнаруженные уязвимости в Synology ActiveProtect DP320 и умной колонке Sonos Era 300.

За успешные атаки на камеры Ubiquiti, принтеры Lexmark и Canon, устройства умного дома Philips Hue Bridge, Amazon Smart Plug и Home Automation Green участники получали до $40 000.

Главной интригой должен был стать 0-click для WhatsApp, подготовленный исследователем 3ugen3 из команды Team Z3. Уязвимость позволяла выполнять код на устройстве жертвы без её участия, что делает такую атаку особенно опасной.

Однако в последний момент демонстрация не состоялась. Сначала ZDI объяснила задержку «проблемами с перелётом», но позже объявила, что исследователь отозвал свою заявку, посчитав, что эксплойт «недостаточно готов для публичного показа».

«Team Z3 решила не демонстрировать уязвимость, но передаст материалы для проверки аналитикам ZDI и инженерам Meta», — сообщил Дастин Чайлдс, глава направления по осведомлённости об угрозах в ZDI.

По его словам, Meta (признана экстремистской и запрещена в России) проявила интерес к исследованию и получит отчёт через ZDI для дальнейшего анализа.

Отсутствие публичного показа вызвало разочарование и волну домыслов в киберсообществе: часть экспертов сомневается, что атака действительно работала так, как заявлялось.

Сам исследователь заявил в комментарии для SecurityWeek, что «сохраняет все детали в секрете по соглашению о неразглашении (NDA)» и что «всё останется между Meta, ZDI и мной».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru