OpenAI: Киберпреступники использовали ChatGPT для написания вредоносов

OpenAI: Киберпреступники использовали ChatGPT для написания вредоносов

OpenAI: Киберпреступники использовали ChatGPT для написания вредоносов

Специалистам компании OpenAI удалось ликвидировать более 20 киберкампаний, в которых возможности чат-бота ChatGPT использовались для разработки вредоносных программ и организации целевого фишинга.

Отчёт OpenAI описывает активность киберпреступников с начала 2024 года и впервые официально подтверждает использование генеративных возможности ChatGPT для проведения кибератак.

Например, специалисты упоминают группу SweetSpecter, которая якобы организует кибершпионаж и атакует власти ряда стран Азии. Участники SweetSpecter тщательно готовят электронные письма для целевого фишинга, оснащая их ZIP-архивами с вредоносным содержимым.

В результате в систему жертвы попадает троян SugarGh0st, открывающий злоумышленникам удалённый доступ к устройству.

 

Кроме того, в отчёте описывается иранская кибергруппировка CyberAv3ngers, стоящая за таргетированными атаками на промышленные системы стран Запада. Злоумышленники просили ChatGPT выдать учётные данные, используемые в популярных ПЛК по умолчанию.

OpenAI отметила ещё одну иранскую группу — Storm-0817. Эта APT задействовала возможности чат-бота для отладки вредоносных программ.

«В частности, STORM-0817 использовала ChatGPT для разработки кода на стороне сервера, необходимого для установки соединений со скомпрометированными устройствами», — отмечается в отчёте (PDF).

ИТ-отрасль выступила против ковровых блокировок, предлагает точечные

Участники круглого стола «Замедление интернет-сервисов и сохранение цифровой экономики: взгляд отрасли», прошедшего 15 апреля в пресс-центре ТАСС, предложили комплекс мер, который, по их мнению, необходим для сохранения качества цифровых услуг для граждан и защиты бизнеса от экономических потерь.

Круглый стол организовали Ассоциация «Руссофт» и АНО Союз «Цифровой мир». В обсуждении также принял участие депутат Государственной Думы, первый заместитель председателя комитета по контролю Дмитрий Гусев.

Дмитрий Гусев отдельно подчеркнул, что даже в период вынужденных ограничений должны бесперебойно работать государственные платформы, включая «Госуслуги» и системы межведомственного взаимодействия. При этом, по его словам, важно сохранить для граждан привычный цифровой комфорт:

«При этом важно рационально распределять сетевые ресурсы: предотвращать перегрузки каналов, но одновременно сохранять доступ к базовым цифровым сервисам, от которых зависит повседневная жизнь людей. Операторы связи обязаны приоритезировать трафик критически важных государственных ресурсов, параллельно развивая резервные маршруты и автономные сегменты инфраструктуры».

Одним из таких механизмов остаются так называемые «белые списки». Ведущий аналитик Mobile Research Group Эльдар Муртазин назвал их лучшим из худших решений, которые удалось предложить в сложившейся ситуации. По его оценке, они обеспечивают доступ к базовому набору цифровых сервисов, на который приходится около трети всего трафика.

В то же время, отметил он, у этого механизма немало недостатков. Прежде всего, «белые списки» усиливают позиции крупных платформ. Кроме того, порядок их формирования остаётся непубличным и непрозрачным, и эту ситуацию, по мнению эксперта, необходимо менять. В целом же, по оценкам Эльдара Муртазина, потери российского бизнеса из-за ограничений интернета достигают десятков миллиардов рублей в месяц.

Председатель правления Ассоциации «Руссофт» Сергей Вотяков призвал расширить «белые списки» за счёт доверенных облачных и онлайн-сервисов. По его мнению, это могло бы дать дополнительный импульс их развитию. Однако пока многим ИТ-компаниям трудно строить планы, поскольку остаётся неясным, как будет работать интернет в ближайшей перспективе.

Участники дискуссии также призвали с осторожностью подходить к блокировке VPN. Как напомнил председатель совета директоров «Базальт СПО» Алексей Смирнов, VPN — один из базовых инструментов интернета, основное назначение которого заключается в обеспечении безопасной связи через публичные сети. Возможность обхода блокировок он назвал лишь побочным эффектом. Тотальную блокировку VPN он сравнил с полным запретом автомобильного движения ради соблюдения правил дорожного движения.

Председатель АНО Союз «Цифровой мир» Валерий Корнеев, в свою очередь, предложил ввести мораторий на запуск новых сервисов, требующих массового сбора персональных данных:

«Мы предлагаем ввести немедленный мораторий на запуск новых сервисов, критически зависящих от бесперебойной мобильной связи и надёжной удалённой идентификации. К ним, в частности, относятся инициативы по легализации онлайн-продаж алкоголя, энергетиков и табачных изделий, требующих сверки данных в режиме реального времени. В текущих условиях, когда для обеспечения безопасности граждан ограничены возможности мобильного доступа к сети интернет, приоритетом должно стать не наращивание трафика и нагрузки на инфраструктуру, а обеспечение устойчивости и защищённости уже работающих критически важных сервисов. Запуск высоконагруженных систем в такой обстановке создаёт неприемлемые риски для национальной безопасности».

Участники мероприятия выступили против «ковровых блокировок» и запрета целых платформ, которыми пользуется широкая аудитория и от которых нередко зависит работа бизнеса — как малого, так и крупного. По их мнению, ограничительные меры должны применяться точечно и затрагивать только конкретных нарушителей и контент, нарушающий законодательство.

В целом по итогам дискуссии были сформулированы пять основных предложений, направленных в правительство:

  1. Регуляторное воздействие должно быть точечным и распространяться только на явно вредоносный трафик.
  2. Необходимо обеспечить цифровой комфорт для граждан. Отчасти эту задачу решают «белые списки», однако механизм включения в них новых сервисов должен стать более публичным и прозрачным.
  3. Тотальный запрет VPN недопустим. Следует чётко разграничивать средства обхода блокировок и инструменты, предназначенные для безопасной передачи данных через публичные сети.
  4. Необходимо обеспечить доступ как минимум аккредитованных российских ИТ-компаний к международным сервисам — репозиториям кода, библиотекам и другим инфраструктурным ресурсам.
  5. Следует ввести мораторий на запуск новых систем, требующих массового сбора персональных данных и их сверки в режиме реального времени. Такие сервисы критически зависят от работы мобильного интернета, который в ряде регионов уже ограничен.

RSS: Новости на портале Anti-Malware.ru