Новый вредоносный ИИ-инструмент DarkBERT будет обучаться на всём дарквебе

Новый вредоносный ИИ-инструмент DarkBERT будет обучаться на всём дарквебе

Новый вредоносный ИИ-инструмент DarkBERT будет обучаться на всём дарквебе

Разработчик FraudGPT, чат-бота для киберпреступников, готовит ещё более сложный ИИ-инструмент такого же принципа работы — DarkBERT. Основной «фишкой» DarkBERT будет обучение на всех площадках дарквеба.

Как и его собратья (WormGPT и FraudGPT), новый инструмент взял за основу Google Bard. В этот раз разработчик решил реализовать интеграцию с технологией распознавания изображений — Google Lens.

Известно, что за созданием чат-ботов для злоумышленников стоит человек с ником «CanadianKingpin12». Помимо DarkBERT, специалист работает ещё над одной похожей тулзой — DarkBART.

Исследователи из SlashNext предупреждают в блоге об опасности таких инструментов: они понижают порог вхождения для начинающих киберпреступников. В результате малоквалифицированные «хакеры» могут составлять качественные фишинговые письма, которые будут использоваться в целевых атаках.

«На самом деле мы наблюдаем стремительный прогресс — от WormGPT к FraudGPT, а теперь и к DarkBERT — всего лишь за месяц работы девелопера этих инструментов», — отмечают в SlashNext.

Что касается функциональности, DarkBERT будет представлять собой вредоносную версию Google Bard и задействовать большую языковую модель (БЯМ).

Интересно, что CanadianKingpin12 поделился с исследователями в Telegram видео, на котором демонстрируется обучение DarkBERT на ресурсах дарквеба. Интеграция с Google Lens позволит использовать не только текст, но и изображения, что выгодно отличает его от основанных на ChatGPT инструментах.

Частое общение с ИИ-ботами не проходит бесследно: из людей посыпался слоп

ИИ настолько стремительно вторгся в нашу жизнь, охватив многие ее аспекты, что начал даже оказывать влияние на манеру изъясняться. Люди, сами того не замечая, все чаще употребляют замысловатые словечки и фразы из репертуара ChatGPT.

Как оказалось, расширение использования больших языковых моделей (БЯМ, LLM) не только пошло им на пользу, но также записало на подкорку живых собеседников странный диалект, выработанный ИИ в ходе генерации текстов.

В июле прошлого года институт Макса Планка опубликовал результаты исследования влияния LLM на речевые коммуникации homo sapiens. Как оказалось, за 18 месяцев с момента запуска ChatGPT словарь пользователей YouTube сильно изменился, обогатившись такими выпадающими из стиля и контекста словами, как underscore (сделать акцент на…), comprehend (осмыслить, объять), bolster (консолидировать), inquiry (изыскание), meticulous (скрупулезный, доскональный, филигранный).

Недавно были выявлены похожие, но более анекдотичные случаи. Так, модераторы Reddit-веток, в которых участники сообществ со смаком обсуждают дерзкие проступки, никак не могут избавиться от слопа — постов, переписанных с помощью ИИ, а также участников дискуссий, разговаривающих в том же духе, которых невозможно отличить от чат-ботов.

Писатель Сэм Крисс (Sam Kriss) изучил последние публикации в New York Times Magazine и обнаружил, что их авторы явно злоупотребляют словом «delve» (штудировать), позаимствованным у ИИ.

Исследователь также отметил, что даже британские парламентарии не брезгуют советоваться с ChatGPT, подготавливая свою речь. Об этом свидетельствует фраза «I rise to speak», однажды озвученная за день 26 раз, — характерная для американского английского, но совершенно неуместная при выступлении в Вестминстерском дворце.

Еще один курьез, подмеченный Киссом: в сентябрьских объявлениях о закрытии Starbucks кофейни были названы «неотъемлемой частью вашего суточного режима, пробуждающей воспоминания», а также «местом, где наше конструктивное общение с партнерами с годами только крепло». Текст был явно навеян общением с ИИ, если только не создан с его непосредственным участием.

RSS: Новости на портале Anti-Malware.ru