Новый вредоносный ИИ-инструмент DarkBERT будет обучаться на всём дарквебе

Новый вредоносный ИИ-инструмент DarkBERT будет обучаться на всём дарквебе

Новый вредоносный ИИ-инструмент DarkBERT будет обучаться на всём дарквебе

Разработчик FraudGPT, чат-бота для киберпреступников, готовит ещё более сложный ИИ-инструмент такого же принципа работы — DarkBERT. Основной «фишкой» DarkBERT будет обучение на всех площадках дарквеба.

Как и его собратья (WormGPT и FraudGPT), новый инструмент взял за основу Google Bard. В этот раз разработчик решил реализовать интеграцию с технологией распознавания изображений — Google Lens.

Известно, что за созданием чат-ботов для злоумышленников стоит человек с ником «CanadianKingpin12». Помимо DarkBERT, специалист работает ещё над одной похожей тулзой — DarkBART.

Исследователи из SlashNext предупреждают в блоге об опасности таких инструментов: они понижают порог вхождения для начинающих киберпреступников. В результате малоквалифицированные «хакеры» могут составлять качественные фишинговые письма, которые будут использоваться в целевых атаках.

«На самом деле мы наблюдаем стремительный прогресс — от WormGPT к FraudGPT, а теперь и к DarkBERT — всего лишь за месяц работы девелопера этих инструментов», — отмечают в SlashNext.

Что касается функциональности, DarkBERT будет представлять собой вредоносную версию Google Bard и задействовать большую языковую модель (БЯМ).

Интересно, что CanadianKingpin12 поделился с исследователями в Telegram видео, на котором демонстрируется обучение DarkBERT на ресурсах дарквеба. Интеграция с Google Lens позволит использовать не только текст, но и изображения, что выгодно отличает его от основанных на ChatGPT инструментах.

Подпишитесь на новости

ИИ пишет код, а кто отвечает за безопасность? Разберут на AI AppSec Night

Нейросети ускоряют разработку, пока промпт-инъекции и небезопасные агенты не подбрасывают команде новую головную боль. Как защищать ИИ-системы и договариваться об этом с менеджментом, обсудят на AI AppSec Night — встрече сообщества Альфа-Банка для опытных специалистов по безопасной разработке.

Мероприятие пройдёт 17 ноября на московской площадке «Альфа-Кристалл». Для участников из других городов и стран будет онлайн-трансляция. Регистрация уже открыта.

Вместо сплошного марафона слайдов организаторы готовят ИИ-ток-шоу: практики кибербезопасности представят идеи безопасной разработки, а руководители ИБ из крупных технологических компаний прокомментируют острые вопросы. В центре разговора будут защита ИИ и общий язык между теми, кто разрабатывает системы, и теми, кто принимает решения.

После дискуссии можно будет проверить, насколько уверенно теория держится под давлением вопросов. В командной игре «Что? Где? Безопасность!» участники посоревнуются в знаниях AppSec и поборются за призы.

Для споров в менее формальной обстановке предусмотрена зона Speakeasy bar: горячие темы CyberSec, напитки и возможность продолжить разговор без микрофона. Завершится вечер нетворкингом — время найти коллег, с которыми можно обсудить проблемы, не объясняя сначала, что такое промпт-инъекция.

Программа уже опубликована на сайте мероприятия: можно заранее выбрать, куда направить силы — на дискуссию, интеллектуальную битву или профессиональные знакомства.

Реклама, 18+ АО «Альфа-Банк». ИНН 7728168971
ERID: 2VfnxvrXfxR

RSS: Новости на портале Anti-Malware.ru