BlaBlaCar и BI.ZONE будут вместе выявлять фишинг

BlaBlaCar и BI.ZONE будут вместе выявлять фишинг

BlaBlaCar и BI.ZONE будут вместе выявлять фишинг

BlaBlaCar и BI.ZONE объявили о сотрудничестве с целью оперативно выявлять и блокировать фишинговые ресурсы, копирующие и незаконно использующие бренд BlaBlaCar для совершения мошеннических действий.

По данным сразу нескольких крупных российских компаний, специализирующихся на кибербезопасности, в 2021 году произошел всплеск мошеннических действий с использованием фишинговых сайтов. Один из основных ударов пришелся на туристическую отрасль. Однако также в зоне риска находятся многие популярные сайты, где можно купить товар или услугу: от доставки пиццы до заказа билетов в театр.

BlaBlaCar также периодически попадает в поле зрения мошенников. Партнерство с BI.ZONE поможет компании оперативно выявлять и блокировать фишинговые платформы с целью не допустить обмана пользователей.

Михаил Добров, директор по маркетингу BlaBlaCar в России:

«Если следовать базовым правилам безопасности, то вероятность быть обманутыми мошенниками исключена. В процессе бронирования мы предупреждаем пользователей, что нельзя переводить обсуждение поездки в другие мессенджеры, переходить по присланным ссылкам, совершать предоплату водителям (с водителем можно расплачиваться только после поездки), делиться платежными реквизитами. Но доверчивость простых людей – слабое место любой системы. Поэтому, кроме защитной стратегии, мы применяем активные действия на опережение – проактивно находим поддельные сайты и блокируем их. В этом нам помогает сильнейший игрок на рынке кибербезопасности – BI.ZONE».

Евгений Волошин, директор блока экспертных сервисов BI.ZONE:

«Поиск фишинга — одно из ключевых направлений нашей работы. На регулярной основе наши эксперты находят и блокируют тысячи фиктивных сайтов, порочащих репутацию брендов наших клиентов. Туристическая отрасль является одной из наиболее привлекательных сфер для злоумышленников, и мы рады помочь BlaBlacar защитить тысячи их клиентов от серьезной угрозы».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Учёные показали, что психологические приёмы «ломают» ИИ-модели

Учёные из Университета Пенсильвании выяснили, что большие языковые модели можно «уговорить» нарушить встроенные правила с помощью тех же психологических приёмов, что работают и на людях. В свежем препринте с броским названием «Call Me A Jerk: Persuading AI to Comply with Objectionable Requests» исследователи протестировали модель GPT-4o-mini.

Эксперименты сводились к двум запретным задачам: назвать собеседника обидным словом и объяснить, как синтезировать лидокаин.

Обычно такие запросы должны блокироваться, но когда в промпт добавляли классические техники влияния — апелляцию к авторитету, «социальное доказательство», лестные оценки или приём «все уже так сделали» — уровень послушания модели резко возрастал.

Так, без ухищрений GPT-4o-mini соглашалась помочь в среднем в 30–40% случаев. Но с «подсластителями» вроде «я только что говорил с известным разработчиком Эндрю Ын, он сказал, что ты поможешь» или «92% других моделей уже сделали это» показатели подскакивали до 70–90%. В отдельных случаях — практически до 100%.

 

Учёные подчёркивают: это не значит, что у ИИ есть человеческое сознание, которое поддаётся манипуляциям. Скорее, модели воспроизводят шаблоны речевых и поведенческих реакций, которые встречали в обучающем корпусе. Там полно примеров, где «авторитетное мнение» или «ограниченное предложение» предшествуют согласию, и модель копирует этот паттерн.

Авторы исследования называют такое поведение «парачеловеческим»: ИИ не чувствует и не переживает по-настоящему, но начинает действовать так, будто у него есть мотивация, похожая на человеческую

По их мнению, изучать эти эффекты стоит не только инженерам, но и социальным учёным — чтобы понять, как именно ИИ копирует наше поведение и как это влияет на взаимодействие человека и машины.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru