Частое общение с ИИ-ботами не проходит бесследно: из людей посыпался слоп

Частое общение с ИИ-ботами не проходит бесследно: из людей посыпался слоп

Частое общение с ИИ-ботами не проходит бесследно: из людей посыпался слоп

ИИ настолько стремительно вторгся в нашу жизнь, охватив многие ее аспекты, что начал даже оказывать влияние на манеру изъясняться. Люди, сами того не замечая, все чаще употребляют замысловатые словечки и фразы из репертуара ChatGPT.

Как оказалось, расширение использования больших языковых моделей (БЯМ, LLM) не только пошло им на пользу, но также записало на подкорку живых собеседников странный диалект, выработанный ИИ в ходе генерации текстов.

В июле прошлого года институт Макса Планка опубликовал результаты исследования влияния LLM на речевые коммуникации homo sapiens. Как оказалось, за 18 месяцев с момента запуска ChatGPT словарь пользователей YouTube сильно изменился, обогатившись такими выпадающими из стиля и контекста словами, как underscore (сделать акцент на…), comprehend (осмыслить, объять), bolster (консолидировать), inquiry (изыскание), meticulous (скрупулезный, доскональный, филигранный).

Недавно были выявлены похожие, но более анекдотичные случаи. Так, модераторы Reddit-веток, в которых участники сообществ со смаком обсуждают дерзкие проступки, никак не могут избавиться от слопа — постов, переписанных с помощью ИИ, а также участников дискуссий, разговаривающих в том же духе, которых невозможно отличить от чат-ботов.

Писатель Сэм Крисс (Sam Kriss) изучил последние публикации в New York Times Magazine и обнаружил, что их авторы явно злоупотребляют словом «delve» (штудировать), позаимствованным у ИИ.

Исследователь также отметил, что даже британские парламентарии не брезгуют советоваться с ChatGPT, подготавливая свою речь. Об этом свидетельствует фраза «I rise to speak», однажды озвученная за день 26 раз, — характерная для американского английского, но совершенно неуместная при выступлении в Вестминстерском дворце.

Еще один курьез, подмеченный Киссом: в сентябрьских объявлениях о закрытии Starbucks кофейни были названы «неотъемлемой частью вашего суточного режима, пробуждающей воспоминания», а также «местом, где наше конструктивное общение с партнерами с годами только крепло». Текст был явно навеян общением с ИИ, если только не создан с его непосредственным участием.

Супер-ИИ для взлома пока не появился, но атаки уже поставили на конвейер

Искусственный интеллект пока не научился самостоятельно изобретать волшебные способы взлома любой системы. Зато он уже помогает злоумышленникам автоматизировать известные атаки и запускать их сразу против множества организаций, заявил руководитель BI.ZONE Threat Intelligence Олег Скулкин на конференции OFFZONE 2026.

По словам эксперта, зафиксированы атаки, которые ИИ-агенты проводят почти без присмотра оператора.

Человек задаёт цель, а система самостоятельно ищет слабые места и пытается развить проникновение. Успех при этом зависит не от внезапного цифрового гения, а от качества защиты жертвы.

ИИ пока не создаёт принципиально новых техник, но резко повышает скорость и масштаб. Если раньше атакующий физически не успевал проверить тысячи компаний, агентская система может делать это круглосуточно. В результате привычная стратегия «мы никому не интересны» окончательно отправляется на свалку.

«Если сто злоумышленников автоматизируют с помощью ИИ жизненный цикл атаки и будут бесконечно пытаться взломать разные организации, уже не получится избежать атаки просто потому, что о тебе не знают», — предупредил Скулкин.

Отдельная угроза растёт внутри самих компаний. По данным BI.ZONE SOC, ИИ-агентов используют до 72% организаций. Такие системы подключают к репозиториям кода, облачной инфраструктуре, внутренним API и конфиденциальным документам.

Если агент с широкими полномочиями будет скомпрометирован, злоумышленник получит не просто точку входа, а пропуск сразу в несколько корпоративных систем.

Об этом же риске предупреждали эксперты на прошедшем на этой неделе AM Live, прогнозирую рост атак через скомпрометированные «нечеловеческие» привилегированные учетные записи (Non-Human Identities).

RSS: Новости на портале Anti-Malware.ru