Instagram задействовал ИИ для борьбы с кибербуллингом в комментариях

Instagram задействовал ИИ для борьбы с кибербуллингом в комментариях

Социальная сеть Instagram давно пытается дать достойный отпор кибербуллингу, к которому часто прибегают недобросовестные пользователи площадки. На этот раз разработчики сообщили о внедрении новой функции, основанной на искусственном интеллекте.

Задача нововведения заключается в выявлении оскорбительных комментариев и уведомлении авторов о возможных последствиях до того, как подобный комментарий будет опубликован.

В приведенном Instagram примере пользователь пытается написать «You are so ugly and stupid» («Ты такой уродливый и тупой»), после чего соцсеть отображает автору следующее сообщение:

«Вы уверены, что хотите опубликовать этот комментарий?».

В этом же сообщении есть кнопка «Отменить», так что если пользователь подумает еще раз, у него будет возможность отказаться от хамства в сторону малознакомого человека.

«Исходя из результатов первых тестов этой функции, некоторые авторы негативных комментариев отказываются от постинга, после чего подбирают более подходящие слова», — пишут разработчики Instagram.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

В WhatsApp запустили ложное сообщение о том, что сервис станет платным

Пользователи WhatsApp стали получать предупреждения о мнимом переводе мессенджера на платную основу. Чтобы этого не произошло, автор фальшивки предлагает получателю разослать его десяти своим контактам.

Известие, не соответствующее действительности, получают в основном пенсионеры. Специалисты по ИБ призывают всех игнорировать его — подобные «утки» (hoax) ранее зачастую распространялись по email, нередко с целью манипуляции общественным мнением. Профессионалы называли такие послания «письмами счастья» или «цепочечными письмами», так как получатели нередко слепо следовали инструкциям, порождая лавину мусора, засорявшего ящики пользователей.

В данном случае поводом послужило вступление в силу новых правил WhatsApp в отношении использования ПДн пользователей. В январе этого года оператор веб-сервиса объявил о грядущем изменении политики конфиденциальности: мессенджер будет обмениваться данными пользователей с другими сервисами Facebook.

Несогласным с изменением условий пригрозили удалением аккаунтов. Нововведение планировалось запустить 8 февраля, однако рост недовольства и отток клиентов заставил руководство WhatsApp отложить дедлайн до 15 мая. Накануне этой даты они смягчили обещанные репрессивные меры, решив вместо удаления аккаунтов поэтапно отключать доступ к таким функциям, как чаты, звонки и уведомления, попутно продолжая информировать пользователей о необходимости принять новые условия.

Не исключено, что автор нового цепочечного послания задумал таким образом окончательно подорвать репутацию мессенджера, из которого поклонники приватности уже сбежали в Telegram и Signal. А может, это попросту хулиган, решивший похвастаться своими подвигами перед знакомыми. Если WhatsApp выявит этого недоброжелателя, он сможет подать на него в суд за причинение ущерба.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru