ZeroNights 2013: безопасность на практике

ZeroNights 2013: безопасность на практике

В Москве 7-8 ноября прошла конференция ZeroNights, посвященная практическим аспектам обеспечения ИБ. Это мероприятие, организованное в третий раз Digital Security и CareerLab при поддержке Яндекс, стало крупнейшим событием не только в отрасли ИБ, но и вообще в области организации конференций в нашей стране. ZeroNights собрала более 1000 посетителей, в то время как изначально ожидалось около 700.

В этом году, как и прежде, организаторы строго придерживались концепции: никакого маркетинга, только практика. На конференции были представлены глубокие технические исследования, уникальные мастер-классы, работа с ПО и «железом» велась прямо на территории мероприятия.

Одной из ключевых тем конференции стала безопасность систем виртуализации. В частности, ей был посвящен доклад одного из keynote-спикеров Рафала Войчук, польского эксперта, обладающего многолетним опытом исследований в данной области, под названием: «Обеспечение безопасности рабочих станций с помощью песочниц и виртуализации: прошлое, настоящее и будущее». Также настоящий фурор произвели выступления Гала Дискина, главного исследователя безопасности из Cyvera (Израиль), который рассказал, почему обеспечить должную безопасность виртуальным машинам практически невозможно, и Медера Кыдыралиева, инженера австралийского отделения Google, называвшееся «Добыча Mach служб внутри песочницы OS X». 

Особое внимание организаторов также было уделено теме безопасности АСУ ТП, которая становится все популярнее с каждым месяцем. Неудивительно, что во время выступления «HART (in)security» Александра Большева, исследователя безопасности из Digital Security, и Александра Малиновского, специалиста по ИБ из Motorola, зал был переполнен. Эксперты рассказали подробно о протоколе HART и показали различные способы атак как на него, так и на программные и аппаратные средства, которые его используют. В частности, было продемонстрировано, как можно считывать и внедрять пакеты в токовую петлю и как с помощью этого можно спровоцировать падение SCADA, OPC и PAM-систем. А Вадим Бардаков, исследователь безопасности Digital Security, рассмотрел в своем докладе особенности эксплуатации уязвимостей, характерных для микроконтроллеров, на примере AVR и MSP.

В ходе конференции ZeroNights также были представлены всевозможные векторы прикладного хакинга, в первую очередь, атаки на критичные бизнес-системы, а также новые методы взлома и глубокие технологические исследования информационных систем. В этом году впервые в истории мероприятия в программу была включена секция, посвященная бизнес-хакингу, в связи с растущим интересом злоумышленников к различным приложениям для бизнеса. А WorkShop известного эксперта в области ИБ Кшиштофа Котовича «Ломаем HTML5» стал настоящей сенсацией. Желающих послушать звездного спикера оказалось столько, что места хватило не всем, многие стояли в проходах и в дверях зала.

Подводя итоги, можно сказать, что организаторам события удалось выполнить задуманную миссию – распространение информации о новых методах атак, угрозах и, конечно, защите от них. С помощью основной сессии докладов, многочисленных воркшопов, отдельных секций, посвященных бизнес-хакингу и Fast-Traks, было продемонстрированы реальные опасности, которые угрожают сегодня не только бизнес-пользователям, но и простым гражданам на улице, в транспорте, в магазинах и кафе, в больницах и даже дома. Возможности для защиты есть, и стоит начать использовать их сегодня, чтобы завтра не стать заложниками виртуального мира, обманувшего доверие.

В Москве 7-8 ноября прошла конференция ZeroNights, посвященная практическим аспектам обеспечения ИБ. Это мероприятие, организованное в третий раз Digital Security и CareerLab при поддержке Яндекс, стало крупнейшим событием не только в отрасли ИБ, но и вообще в области организации конференций в нашей стране. ZeroNights собрала более 1000 посетителей, в то время как изначально ожидалось около 700." />

ИИ сказал — ты согласился: учёные описали феномен когнитивной капитуляции

Исследователи из Университета Пенсильвании предложили новое объяснение тому, как люди взаимодействуют с ИИ. По их мнению, всё чаще пользователи не просто пользуются нейросетями, а буквально «сдаются» им. Этот феномен специалисты назвали «когнитивной капитуляцией» (cognitive surrender).

Если раньше люди использовали технологии вроде калькуляторов или GPS для отдельных задач — «разгружали» мозг, но сохраняли контроль, — то с ИИ ситуация меняется.

Всё чаще пользователи просто принимают ответы модели за истину, не проверяя и не анализируя их. Причём, как отмечают исследователи, это особенно заметно, если ответ звучит уверенно, гладко и без лишних сложностей. В таком случае у человека просто не включается внутренний «режим сомнения».

Чтобы проверить это, учёные провели серию экспериментов с участием более 1300 человек. Им предложили задачи на когнитивное мышление с подвохом, который требует не интуиции, а вдумчивого анализа.

Часть участников могла пользоваться ИИ-помощником, но с нюансом: модель специально давала неправильные ответы примерно в половине случаев. Результат оказался показательным.

 

Когда ИИ отвечал правильно, пользователи соглашались с ним в 93% случаев. Но даже когда он ошибался, люди всё равно принимали его ответ в 80% случаев. То есть большинство просто не перепроверяло результат, даже если он был неверным.

В среднем участники соглашались с ошибочным ИИ в 73% случаев и оспаривали его лишь в 19,7% случаев.

Более того, у тех, кто пользовался ИИ, уровень уверенности в своих ответах оказался выше — даже несмотря на то, что половина этих ответов была неправильной.

 

Интересно, что поведение менялось в зависимости от условий. Например, если участникам давали небольшие денежные стимулы за правильные ответы и мгновенную обратную связь, они чаще перепроверяли ИИ и исправляли ошибки. А вот дефицит времени, наоборот, усиливал зависимость от модели: под давлением дедлайна люди ещё охотнее доверяли ИИ.

Не все оказались одинаково уязвимы. Люди с более высоким уровнем так называемого флюидного интеллекта (fluid IQ) реже полагались на ИИ и чаще замечали его ошибки. А вот те, кто изначально воспринимал ИИ как авторитетный источник, чаще попадались на неверные ответы.

При этом сами исследователи подчёркивают: «когнитивная капитуляция» — не обязательно зло сама по себе. Если ИИ действительно работает лучше человека, логично ему доверять, особенно в задачах вроде анализа данных или оценки рисков.

Но есть важный нюанс: качество мышления в таком случае напрямую зависит от качества самой модели.

RSS: Новости на портале Anti-Malware.ru