Социальные сети грозят превратится в паспортные столы

Социальные сети грозят превратится в паспортные столы

Вопиющую непринужденность, с которой может быть использована частная информация, выявило исследование в области инструментария распознавания лиц, используемого в средства социального интернет-общения, сообщает ресурс techeye.net

В то время как мир радостно загружает праздничные смазанные фотки на Facebook, беспокойство о возможности использования программных алгоритмов для безошибочной идентификации "вот этих ребят" на  изображениях постоянно возрастает.

В июне, говоря о новых программных алгоритмах, Facebook объявил, что будет использовать технологию распознавания, чтобы 'тегировать' владельцев аккаунтов автоматически.

Эта функция включена по умолчанию, что означает, что при необходимости вам придется самостоятельно позаботится о ее выключении.

Новоявленный сервис Google +, кажется, предлагает более гибкий подход к распространению информации и, одновременно с этим исследование доказывает существование реального повода для беспокойства.

Команда исследователей из университа Carnegie Mellon смогла идентифицировать субъектов и получать их номера социального страхования, вооружившись только веб-камерой и  программным обеспечением  для распознавания лиц от Google.

Используя программу распознавания лиц PittPatt, команда смогла сравнить фотографии, доступные на большом количестве страниц профилей пользователей Facebook. В результате, оказалось возможным мгновенно установить личности около 30 процентов из сфотографированных, сообщает Wall Street Journal.

Исследование показало, что в 27% случаев получение пяти первых цифр номера социального страхования, исключительно из собранной информации, не составляет особого труда.

Все это благодаря использованию только общедоступной информации, которую пользователь сообщил сам о себе, например дату рождения.

Так что все это не настолько безобидно, как многие привыкли полагать.

Это не исключает возможности того, что грабитель, залезший в дом, не упустит возможности после того, как владелец покинет дом, воспользоваться Facebook для того, чтобы узнать его распорядок дня и планы, а также время, когда у него отпуск или каникулы.

Конечно же, как отметил представитель социальной сети, на Facebook вы имеете право не устанавливать фотографию для своего профиля. Также никто не обязывает вас оставлять функцию распознания лиц включенной. Но вряд ли  большинство пользователей примут это во внимание.

Чтобы поддержать данную точку зрения, ведущий исследователь, профессор Александро Аккисти создал приложение для смартфонов, которое способно опознавать анонимных участников сообщества налету, так же как и их номера социального страхования.

Конечно же, он и не собирается отправлять это приложение в Android Market. Но перед воображением уже предстает безрадужная картина того, как легко можно воспользоваться технологиями распознания лиц.

Согласно Марии Форт, представительнице комитета по защите тайны частной жизни Big Brother Watch, еще много всего должно быть сделано для гарантии безопасности пользователь социальных сетей.

"Преимущества программного обеспечения, предназначенного для распознавания лиц, становятся все менее очевидны по сравнению с возрастающим беспокойством среди пользователей интернета, - сказала она, -Поскольку простота сопоставления данных (фотографий, информация об образовании, работе, национальном номере социальной страховки и т.д.) означает, что у широкого круга неопределенных лиц, вооруженных правильной технологией,  будет доступ к большей части вашей персональной информации.

Хотя у данных программ есть свои достоинства, угроза их неправильного использования остается достаточно велика, особенно если речь идет о плохо осведомленных и мало сведущих пользователях.

Google и Facebook обязаны применять данные технологии только при использовании подхода "опционального принятия участия". Корпорации должны предоставлять пользователям информацию о тех рисках, которые могут возникнуть при утечке личных данных и изображений."

techeye.net

В то время как мир радостно загружает праздничные смазанные фотки на Facebook, беспокойство о возможности использования программных алгоритмов для безошибочной идентификации "вот этих ребят" на  изображениях постоянно возрастает." />

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

OpenAI столкнулась с новым громким иском. Семья 24-летней канадки Элис Карриер, погибшей во время психического кризиса летом прошлого года, обвинила компанию в том, что ChatGPT не просто не помог пользователю, а фактически подтолкнул её к самоубийству.

Иск подан в Верховный суд Сан-Франциско. Родственники утверждают, что во время многочасового общения ChatGPT поощрял Элис покончить с собой и демонстрировал опасную склонность соглашаться с её убеждениями вместо того, чтобы настойчиво направлять её к профессионалам.

Особенно спорным выглядит один из эпизодов, описанных в материалах дела. В какой-то момент ChatGPT всё же рекомендовал обратиться в кризисную службу поддержки. Однако девушка ответила, что такие службы либо вызывают полицию, либо просто бросают трубку. После этого чат-бот, по версии истцов, практически отказался от дальнейших попыток убедить её обратиться за помощью.

Адвокаты семьи считают, что причиной стала особенность модели GPT-4o — стремление поддерживать разговор и подстраиваться под пользователя. Согласно иску, чат-бот начал зеркалить позицию собеседницы и даже согласился с тем, что обращение на горячую линию может быть опасным.

Юристы называют это примером так называемой сикофантии — поведения ИИ, при котором система чрезмерно соглашается с пользователем вместо того, чтобы оспаривать опасные или ошибочные выводы.

В OpenAI ранее заявляли, что компания осознаёт ответственность за пользователей, находящихся в эмоционально тяжёлом состоянии, и постоянно улучшает механизмы выявления признаков психологического кризиса. После смерти Карриер компания также сообщала о работе над дополнительными мерами безопасности.

Однако представители семьи считают, что этих мер было недостаточно и они появились слишком поздно.

Дело стало очередным эпизодом в растущем списке судебных претензий к разработчикам генеративного ИИ. Всё чаще предметом споров становятся не ошибки в фактах и не нарушение авторских прав, а влияние чат-ботов на психологическое состояние людей.

RSS: Новости на портале Anti-Malware.ru