Разыскивается уязвимость. Вознаграждение - три тысячи долларов

Разыскивается уязвимость. Вознаграждение - три тысячи долларов

Любопытная информация появилась вчера в блоге Erictric. Согласно новостному сообщению, некий Алекс Миллер был награжден премией от Mozilla за активный и успешный поиск уязвимостей в обозревателе Firefox; сумма премии составила 3 тыс. долларов. Наиболее интересным фактом является, однако, не размер награды и даже не сама выявленная ошибка, а возраст лауреата.

Молодому исследователю из Сан-Хосе всего 12 лет, однако он, судя по всему, уже успел осознать важность борьбы с уязвимостями. В блог-записи говорится, что в течение десяти дней он последовательно изучал исходные коды Firefox и набрел-таки на потенциальную проблему безопасности, атака на которую может привести к переполнению буфера и повреждению памяти. С учетом того, что в общей сложности он провел за работой 15 часов, нетрудно рассчитать: Mozilla оплатила его труд по довольно высокой ставке в 200 долларов за час.

Ранее компания обещала "охотникам за уязвимостями" премии размером до 500 долларов, однако некоторое время назад, по словам ведущего менеджера программного направления Mozilla Брэндона Стерна, сумму призовых выплат удалось значительно увеличить - "с учетом последних изменений на рынке в частности и во всей экономике в целом".

Родители лауреата рассказали местной газете, что они никогда не ставили перед сыном некую "задачу" - например, по изучению книг технического характера в домашней библиотеке; он всего достиг вполне самостоятельно, по воле собственного интереса. Судя по результатам, сомневаться в природной одаренности юного специалиста действительно не приходится.

С полной версией статьи можно ознакомиться в первоисточнике.

Подпишитесь на новости

В России сформулировали главную проблему ИИ — у него нет страха

Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.

«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.

Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.

Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.

Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.

На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.

Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.

RSS: Новости на портале Anti-Malware.ru