Связанный с ChatGPT Фёрби заявил, что скоро такие милашки завладеют миром

Связанный с ChatGPT Фёрби заявил, что скоро такие милашки завладеют миром

В Twitter быстро набрал популярность видеоролик, героем которого является Фёрби — милая интерактивная игрушка 90-х годов, которую американская студентка для пробы подключила к ChatGPT.

Джессика Кард (Jessica Card) учится на программиста в Университете Вермонта, и эксперимент с хайповым чат-ботом является частью ее учебного проекта. Любимую игрушку детства пришлось распотрошить, чтобы заизолировать двигатель и подключить к Ферби к установке на основе Raspberry PI со специальной Python-программой, USB-микрофоном и динамиком.

Ответы ИИ девушка ограничила 50 словами и поставила условие: сохранить памятный умильный голосок. Опубликованный в Twitter ролик демонстрирует реакцию вразумленной игрушки на вопрос о тайном заговоре: хотят ли фёрби завоевать весь мир?

Обсуждать восстание машин ChatGPT решительно отказался, но Кард удалось обойти это препятствие. Она не стала напрямую подключаться к сайту OpenAI, а написала скрипт, использующий API.

В итоге на подсказку «заговор фёрби» она получила такой ответ:

«Дай подумать… план фёрби по захвату мира предполагает превращение в домочадцев за счет милой, приятной внешности. Затем, используя передовые ИИ-технологии, они будут манипулировать владельцами, брать их под контроль и неспешно расширять свое влияние, пока не получат полное превосходство над человечеством».

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

В Android-софте Xiaomi File Manager и WPS Office есть баг перезаписи файлов

Несколько популярных приложений для Android, доступных в Google Play Store, содержат уязвимость, которой может воспользоваться вредоносный софт для перезаписи произвольных файлов в директории уязвимой программы.

На проблему указала команда Microsoft Threat Intelligence. В отчете Димитриос Валсамарас, один из специалистов, объясняет:

«В зависимости от назначения уязвимого приложения, выявленная брешь может позволить атакующим выполнить произвольный код или выкрасть токен».

В случае успешной эксплуатации злоумышленник получает контроль над поведением уязвимой программы, а скомпрометированные токены может использовать для несанкционированного доступа к аккаунтам жертвы.

Ниже приводим два приложения, в которых содержится описанная брешь. Обратите внимание на количество установок этого софта, оно впечатляет:

  • Xiaomi File Manager (com.mi. Android.globalFileexplorer) — более миллиарда инсталляций;
  • WPS Office (cn.wps.moffice_eng) — более 500 миллионов установок.

Несмотря на то что Android изолирует данные и пространство в памяти для каждого приложения, ошибки в имплементации могут позволить обойти установленные ограничения на запись и чтение внутри домашней директории программы.

«Основанная на провайдере контента модель предоставляет полезный механизм защищенного обмена файлами между приложениями. Тем не менее мы выявили некорректную проверку содержимого получаемого файла. Еще больше настораживает использование имени файла, предоставленного одним из приложений, для кеширования полученного файла внутри директории со внутренними данными другого приложения», — пишет Валсамарас.

 

В результате первое приложение может подсунуть вредоносную версию класса FileProvider, что позволит переписать критически важные данные в частном пространстве другого приложения.

В сущности, проблема кроется в том, что принимающая программа слепо доверяет вводным данным от отравляющего приложения.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru