Мошенничество - Все публикации

Мошенничество - Все публикации

Как в промпты для ИИ могут попасть вредоносные инъекции

...
Как в промпты для ИИ могут попасть вредоносные инъекции

Многие уже успели убедиться в полезности общения с ИИ через запросы (промпты). На первый взгляд, процесс выглядит безопасным. Но путем инъекций в промпты злоумышленники могут компрометировать это взаимодействие. Как это может происходить? Какие варианты инъекций уже выделены в создаваемую классификацию угроз для ИИ?

Какие угрозы появились после перехода от генеративных к интерактивным моделям ИИ

...
Какие угрозы появились после перехода от генеративных к интерактивным моделям ИИ

2024 год стал знаменательным тем, что завершился этап бурного роста популярности генеративных моделей ИИ, уступивших лидерство в инновациях интерактивным моделям. Их преимущество — акцент на практическое применение ИИ. Но произошедший переход ознаменовался появлением и новых рисков для ИБ.

Как работает социальная инженерия и почему на неё попадаются даже эксперты

...
Как работает социальная инженерия и почему на неё попадаются даже эксперты

Почему мошенники все еще успешны в атаках, как устроены их уловки, а главное — почему даже подготовленные люди становятся жертвами обмана? Для ответа на этот вопрос нужно знать не только основные техники социальной инженерии, но и реальные истории из практики, а также рекомендации, как распознать угрозу.

Фишинг 2.0: как мессенджеры и дипфейки стали оружием кибермошенников

...
Фишинг 2.0: как мессенджеры и дипфейки стали оружием кибермошенников

Фишинг как вид кибермошенничества, направленный на похищение личных данных, продолжает набирать обороты. В последнее время отмечается рост атак посредством мессенджеров, в том числе с использованием технологий искусственного интеллекта. Каковы актуальные схемы такого фишинга и как обеспечить защиту от них?

Можно ли подменить текст человека на созданный искусственным интеллектом

...
Можно ли подменить текст человека на созданный искусственным интеллектом

Цифровизация неизбежно проявится в росте требований к проверке достоверности данных. Прежних приемов будет уже недостаточно. Можно ожидать появление преднамеренной подстановки фейковых текстов или их имитаций с помощью ИИ. Функция выявления искусственных фрагментов станет необходимой частью будущих систем защиты.

Сервис «Яндекс Нейроэксперт». Всё ли найдётся?

...
Сервис «Яндекс Нейроэксперт». Всё ли найдётся?

«Яндекс» 3 апреля заявил о начале публичного бета-тестирования сервиса «Нейроэксперт». Это первый российский продукт класса «генерация, дополненная поиском» (Retrieval Augmented Generation, RAG). Насколько он пригоден для практического использования? В каких сценариях он наиболее эффективен?

Можно ли доверять GenAI? Риски, галлюцинации и контроль достоверности ИИ

...
Можно ли доверять GenAI? Риски, галлюцинации и контроль достоверности ИИ

GenAI совершает ошибки аналогично человеку. Часть из них даже называют «галлюцинациями». Преимущества в скорости, конечно, неоспоримы, но можно ли поручать GenAI ответственные решения? Ведь он не понимает смысла, у него нет моральных ограничений. Да и юридическую ответственность на него не возложишь.

GenAI и безопасность: почему необходим новый подход?

...
GenAI и безопасность: почему необходим новый подход?

Опыты с генеративным искусственным интеллектом показали, что ИИ может совершать ошибки не реже человека. «Обязательно перепроверяйте ответы», — говорят нам. Но натура людей такова, что они, начав доверять, перестают проверять ответы GenAI. Риск появления в них ошибок — это будущие проблемы и сбои. Какие именно?

Стеганография в кибератаках: скрытая передача данных в обход защиты

...
Стеганография в кибератаках: скрытая передача данных в обход защиты

Стеганография позволяет скрывать вредоносные данные внутри изображений, аудиофайлов и даже сетевого трафика, делая их незаметными для традиционных систем защиты. Разбираемся, как стеганография применяется в кибератаках, какие инструменты используют злоумышленники и что поможет обнаружить скрытые угрозы.

Тёмная сторона KYC: чем правило «знай своего клиента» полезно злоумышленникам

...
Тёмная сторона KYC: чем правило «знай своего клиента» полезно злоумышленникам

Правило «знай своего клиента» (Know Your Customer, KYC) — обоюдоострый меч: эффективный инструмент борьбы с преступностью и одновременно источник рисков, связанных с утечками данных. Рассмотрим, как злоумышленники получают информацию, собранную в рамках процедур KYC, и злоупотребляют ею.