Instagram задействовал ИИ для борьбы с кибербуллингом в комментариях

Instagram задействовал ИИ для борьбы с кибербуллингом в комментариях

Instagram задействовал ИИ для борьбы с кибербуллингом в комментариях

Социальная сеть Instagram давно пытается дать достойный отпор кибербуллингу, к которому часто прибегают недобросовестные пользователи площадки. На этот раз разработчики сообщили о внедрении новой функции, основанной на искусственном интеллекте.

Задача нововведения заключается в выявлении оскорбительных комментариев и уведомлении авторов о возможных последствиях до того, как подобный комментарий будет опубликован.

В приведенном Instagram примере пользователь пытается написать «You are so ugly and stupid» («Ты такой уродливый и тупой»), после чего соцсеть отображает автору следующее сообщение:

«Вы уверены, что хотите опубликовать этот комментарий?».

В этом же сообщении есть кнопка «Отменить», так что если пользователь подумает еще раз, у него будет возможность отказаться от хамства в сторону малознакомого человека.

«Исходя из результатов первых тестов этой функции, некоторые авторы негативных комментариев отказываются от постинга, после чего подбирают более подходящие слова», — пишут разработчики Instagram.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Минцифры поддержало инициативу депутатов об обучении ИБ госслужащих

Минцифры поддержало инициативу группы депутатов от фракции «Новые люди», которые предложили внедрить системное обучение государственных и муниципальных служащих основам кибербезопасности. По замыслу авторов инициативы, регулярные курсы помогут защитить государственные структуры от кибератак, включая попытки социальной инженерии, фишинга и использования вредоносных программ.

Депутаты направили министру цифрового развития, связи и массовых коммуникаций Максуту Шадаеву письмо с предложением сделать такие курсы обязательными и завершать их аттестацией.

В распоряжении РИА Новости оказался ответ на письмо, подписанный одним из заместителей министра. В документе отмечается, что ведомство разделяет позицию о необходимости системного обучения госслужащих. Подчёркивается, что такие меры особенно важны для защиты информационных ресурсов органов власти и критической инфраструктуры от атак социальной инженерии.

Представитель Минцифры добавил, что вопросы повышения киберграмотности уже отражены в национальной программе «Цифровая экономика РФ». Кроме того, был создан экспертный совет «Цифровая грамотность и кибергигиена», который объединяет усилия специалистов для системного повышения уровня цифровых компетенций.

Сейчас Минцифры готовит новый проект «Цифровая грамотность для госслужащих». В разработке участвуют представители компаний Ростелеком, «Лаборатория Касперского», Яндекс, Авито и Сбер. Их эксперты готовят методические материалы по темам социальной инженерии, фишинга, вредоносных программ, защиты персональных данных и угроз на основе искусственного интеллекта.

Параллельно разрабатывается итоговое тестирование. «Дополнительно сообщаем, что Экспертным советом реализуется проект "ЦифрАтест", направленный на определение уровня цифровой грамотности госслужащих. Платформа будет включать тестирование по темам телефонного мошенничества, защиты от спама, безопасного использования мессенджеров и соцсетей, фишинга и доступа к госуслугам. По итогам прохождения теста участники получат сертификат, отражающий их уровень цифровых компетенций», — говорится в ответе ведомства.

Даже зрелые организации регулярно сталкиваются с инцидентами, вызванными атаками на персонал. Поэтому необходим постоянно действующий процесс обучения и повышения осведомлённости сотрудников. Тем более, что корпоративная среда и госучреждения часто становятся благоприятной почвой для распространения фишинга.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru