Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

Новый генератор картинок ChatGPT ловко фальсифицирует счета общепита

В прошлом месяце ИИ-бот ChatGPT обрел новый генератор изображений с выпуском модели 4o. Первые пробы показали, что создаваемые с его помощью картинки с вставленным текстом стали более реалистичными.

Пользователи ChatGPT теперь заставляют его генерировать ресторанные счета и получают вполне убедительные дипфейки.

Фото одной из таких фальшивок было опубликовано в X.

 

 

 

Другие юзеры подхватили идею, добились схожих результатов, а в одном из случаев тот же фейковый счет был для большего правдоподобия «испачкан»:

 

Наиболее реалистичный образец получился у французского специалиста в области ИИ — из-за эффекта помятой бумаги.

 

В TechCrunch тоже опробовали новинку и получили вполне сносный вариант для гриль-бара в Сан-Франциско. Правда, в итоговой сумме вместо точки стояла запятая, к тому же у ChatGPT, видимо, плохо с арифметикой, но эти огрехи при желании можно быстро исправить, конкретизировав подсказки, или с помощью графического редактора.

 

В комментарии для онлайн-издания представитель OpenAI заявила, что все изображения, генерируемые ИИ-ботом, снабжены соответствующими метаданными. Обнаружив нарушение пользовательского соглашения, компания «принимает меры» и «учится» на таких случаях.

В ответ на вопрос, зачем вообще позволять ChatGPT соглашаться на авантюры, попахивающие злоупотреблением, собеседница подчеркнула, что их цель — предоставить юзерам «как можно больше свободы творчества». К тому же фейковые счета необязательно нужны для мошенничества, их можно использовать в целях финансового ликбеза, а также для создания оригинальных картин или продуктовой рекламы.

Минцифры не станет закрывать детям доступ к соцсетям

Никакого цифрового забора вокруг соцсетей для несовершеннолетних пока не будет. Минцифры заявило, что не планирует ограничивать детям доступ к таким площадкам. Дополнительную защиту на детских сим-картах смогут включать только родители (добровольно и с их согласия).

Такую возможность операторам предоставил второй пакет мер по борьбе с кибермошенничеством, принятый в июне. Его задача — не отобрать у ребёнка интернет, а сократить число способов, которыми мошенники добираются до несовершеннолетних.

Одна из предложенных мер запрещает отправлять на детские номера рекламные сообщения и СМС с кодами аутентификации в различных сервисах. Это должно осложнить кражу персональных данных и аккаунтов, а также их последующую продажу. Заодно злоумышленникам станет труднее использовать привычные приёмы социальной инженерии.

Исключение предусмотрено для государственных информационных систем. Например, СМС с кодом от Госуслуг продолжат приходить, поскольку там уже действует дополнительная защита: во время телефонного разговора код не отправляется. Схема «не кладите трубку и срочно назовите цифры» получает ещё одну палку в колёса.

При этом любые ограничения на детской сим-карте будут действовать исключительно по решению родителей. Само государство не собирается автоматически перекрывать несовершеннолетним соцсети или решать за каждую семью, какие сервисы ребёнку разрешено посещать.

В Минцифры подчёркивают, что детям требуется особая защита от киберпреступников, однако она должна учитывать права граждан и интересы пользователей.

RSS: Новости на портале Anti-Malware.ru