Связанный с ChatGPT Фёрби заявил, что скоро такие милашки завладеют миром

Связанный с ChatGPT Фёрби заявил, что скоро такие милашки завладеют миром

Связанный с ChatGPT Фёрби заявил, что скоро такие милашки завладеют миром

В Twitter быстро набрал популярность видеоролик, героем которого является Фёрби — милая интерактивная игрушка 90-х годов, которую американская студентка для пробы подключила к ChatGPT.

Джессика Кард (Jessica Card) учится на программиста в Университете Вермонта, и эксперимент с хайповым чат-ботом является частью ее учебного проекта. Любимую игрушку детства пришлось распотрошить, чтобы заизолировать двигатель и подключить к Ферби к установке на основе Raspberry PI со специальной Python-программой, USB-микрофоном и динамиком.

Ответы ИИ девушка ограничила 50 словами и поставила условие: сохранить памятный умильный голосок. Опубликованный в Twitter ролик демонстрирует реакцию вразумленной игрушки на вопрос о тайном заговоре: хотят ли фёрби завоевать весь мир?

Обсуждать восстание машин ChatGPT решительно отказался, но Кард удалось обойти это препятствие. Она не стала напрямую подключаться к сайту OpenAI, а написала скрипт, использующий API.

В итоге на подсказку «заговор фёрби» она получила такой ответ:

«Дай подумать… план фёрби по захвату мира предполагает превращение в домочадцев за счет милой, приятной внешности. Затем, используя передовые ИИ-технологии, они будут манипулировать владельцами, брать их под контроль и неспешно расширять свое влияние, пока не получат полное превосходство над человечеством».

ИИ не узнал дом британского премьера: на Booking.com сдали Даунинг-стрит

Системы безопасности Booking.com не заметили ничего странного в предложении снять квартиру на Даунинг-стрит, 10 — по адресу официальной резиденции премьер-министра Великобритании. Фальшивое объявление создали исследователи организации Which?, чтобы проверить защиту платформы от мошенников.

В карточке красовались точный адрес, фотография знаменитого здания и описание «однокомнатного жилья в самом центре Лондона», всего в четырёх минутах ходьбы от парламента.

Объявление появилось 18 июня, а возможность бронирования ненадолго открыли специально для теста. И Booking.com не подвёл (правда, совсем не в том смысле).

Платформа обработала платёж за недельное проживание, причём спустя более шести недель деньги исследователю так и не вернули. Следом модерацию почти мгновенно прошёл фальшивый отзыв об исключительном отдыхе и общении с котом Ларри, официальным мышеловом резиденции.

На этом аттракцион доверчивости не закончился. Через внутренний чат Booking.com исследователи отправили внешнюю ссылку с просьбой ввести данные банковской карты якобы для подтверждения брони. Система, которая, по словам компании, умеет блокировать подозрительные адреса, опять решила не вмешиваться.

Объявление окончательно удалили лишь 27 августа. В Which? назвали результаты проверки свидетельством системных сбоев и призвали британского регулятора Ofcom начать расследование.

«Если сложный ИИ Booking.com не понимает, что Даунинг-стрит, 10 — не домик для отпуска, неудивительно, что мошенники так легко используют платформу», — заявил редактор Which? Travel Рори Боланд.

В Booking.com ответили, что эксперимент не отражает опыт миллионов клиентов, а объявление якобы не было публично доступно. Некоторые антифрод-механизмы поэтому не активировались.

RSS: Новости на портале Anti-Malware.ru