STAMINA — новый метод детектирования вредоносов от Microsoft и Intel

STAMINA — новый метод детектирования вредоносов от Microsoft и Intel

STAMINA — новый метод детектирования вредоносов от Microsoft и Intel

Специалисты двух техногигантов Microsoft и Intel разработали новый подход к детектированию вредоносных программ. Ключевыми особенностями этого подхода стали глубокое обучение и представление вредоносов в виде графических изображений.

Технология Microsoft и Intel получила имя «STAtic Malware-as-Image Network Analysis» (коротко — STAMINA), в её основе лежит предыдущая работа Intel по классификации вредоносных программ.

Специалисты разработали STAMINA вокруг исследования бинарных файлов зловредов, представленных в виде изображения в градациях серого. В процессе эксперты выяснили, что между таким изображениями вредоносных программ одного семейства есть определённое структурное сходство.

По аналогии: существуют такие же различия между вредоносами разных семейств, а также, что немаловажно, между злонамеренными и безобидными программами.

В посвящённой STAMINA статье специалисты утверждают, что классический метод детектирования вредоносов с помощью сигнатур со временем затрудняется непрерывным увеличением количества образцов вредоносного кода.

STAMINA включает четыре шага: предварительная обработка (конвертация изображения), обучение (transfer learning), оценка и интерпретация.

Первый шаг подразумевает преобразование пикселей (каждый байт получает значение между 0 и 255), создание новой формы (пиксели получают два основных значения — ширина и высота) и изменение размера.

Далее в дело вступает машинное обучение, призванное подготовить классификатор вредоносных программ для выполнения выделенных ему функций.

Предпоследний шаг (оценка) требует от исследователей пристального внимания к надёжности метода: процент ложных срабатываний, точность детектирования, F-мера и т. п. По словам специалистов, исследование проводилось на базе Microsoft, содержащей 2,2 млн хешей бинарников вредоносных программ.

Тестирование показало, что STAMINA может обеспечить 99,09% точных детектов. Ложных срабатываний при этом получилось 2,58%. Следует отметить, что новый способ подходит только для приложений малого размера, поскольку STAMINA с трудом сможет конвертировать «миллионы пикселей в JPEG-изображения».

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

OpenAI столкнулась с новым громким иском. Семья 24-летней канадки Элис Карриер, погибшей во время психического кризиса летом прошлого года, обвинила компанию в том, что ChatGPT не просто не помог пользователю, а фактически подтолкнул её к самоубийству.

Иск подан в Верховный суд Сан-Франциско. Родственники утверждают, что во время многочасового общения ChatGPT поощрял Элис покончить с собой и демонстрировал опасную склонность соглашаться с её убеждениями вместо того, чтобы настойчиво направлять её к профессионалам.

Особенно спорным выглядит один из эпизодов, описанных в материалах дела. В какой-то момент ChatGPT всё же рекомендовал обратиться в кризисную службу поддержки. Однако девушка ответила, что такие службы либо вызывают полицию, либо просто бросают трубку. После этого чат-бот, по версии истцов, практически отказался от дальнейших попыток убедить её обратиться за помощью.

Адвокаты семьи считают, что причиной стала особенность модели GPT-4o — стремление поддерживать разговор и подстраиваться под пользователя. Согласно иску, чат-бот начал зеркалить позицию собеседницы и даже согласился с тем, что обращение на горячую линию может быть опасным.

Юристы называют это примером так называемой сикофантии — поведения ИИ, при котором система чрезмерно соглашается с пользователем вместо того, чтобы оспаривать опасные или ошибочные выводы.

В OpenAI ранее заявляли, что компания осознаёт ответственность за пользователей, находящихся в эмоционально тяжёлом состоянии, и постоянно улучшает механизмы выявления признаков психологического кризиса. После смерти Карриер компания также сообщала о работе над дополнительными мерами безопасности.

Однако представители семьи считают, что этих мер было недостаточно и они появились слишком поздно.

Дело стало очередным эпизодом в растущем списке судебных претензий к разработчикам генеративного ИИ. Всё чаще предметом споров становятся не ошибки в фактах и не нарушение авторских прав, а влияние чат-ботов на психологическое состояние людей.

RSS: Новости на портале Anti-Malware.ru