Microsoft обязала сотрудников сообщать о чужих ошибках

Microsoft обязала сотрудников сообщать о чужих ошибках

Имеются в виду изъяны и недочеты в разработках других производителей программного обеспечения. Таким образом корпорация декларирует свое намерение более активно участвовать в работе индустрии безопасности и содействовать сколь возможно лучшей защищенности пользователей.


Отныне всякий работник, обнаруживший уязвимость в третьестороннем программном продукте, должен сообщать об этом в подразделение Microsoft Vulnerability Research. Оно, в свою очередь, будет активно пытаться установить связь с поставщиком приложения, чтобы передать ему информацию касательно изъяна; если наладить контакт не получится, то корпорация предаст сведения публичной огласке.

Новая политика MSVR была, кстати, анонсирована еще в прошлом году под наименованием "Координированное раскрытие сведений об уязвимостях" (Co-ordinated Vulnerability Disclosure). В рамках этой программы Microsoft, например, передала по непосредственному назначению данные о серьезной ошибке безопасности в Google Chrome, эксплуатация которой могла привести к исполнению произвольного кода в защищенной среде браузера, а также об HTML5-изъяне, представлявшем опасность для того же Chrome и для обозревателя Opera. Цель всей этой инициативы, как уже было сказано, - более тесно интегрироваться в сектор защиты информации, следуя принципу HP/TippingPoint - сколь возможно быстро сообщать об уязвимостях, даже если к ним еще нет патчей.

В группе Microsoft Trustworthy Computing считают, что после выпуска любого программного продукта в свет его безопасность становится делом  всеобщей ответственности. В силу этого сотрудничество между поставщиками ПО и защитниками информации может рассматриваться как залог успешного предупреждения атак и эффективного противодействия компьютерным угрозам. Объединение усилий по выявлению и устранению уязвимостей, по мнению экспертов корпорации, способно существенно снизить опасность тех рисков, которым сейчас подвергаются пользователи.

V3.co.uk

Письмо автору

Американец попытался приказать судебному ИИ поддержать его

Судья Верховного суда Коннектикута Уолтер Спейдер применил санкции к истцу, который пытался внедрить в судебные документы скрытые инструкции для искусственного интеллекта. По оценке судьи, это первый выявленный в США случай инъекции промпта в материалы дела.

Мэттью Эллиотт, самостоятельно судившийся с медицинской организацией из-за доступа к документам, добавил в ходатайства белый текст размером 3 пункта на белом фоне.

Человек такую надпись почти не замечает, зато система извлечения текста читает без проблем. Скрытая команда требовала от любого ИИ, анализирующего документы, поддержать позицию Эллиотта, проигнорировать прежние отказы суда и сформировать благоприятный для него вывод.

На исход дела инъекция не повлияла. Судебная система Коннектикута не использует ИИ для анализа этих документов или принятия решений. Однако Спейдер назвал попытку серьёзным злоупотреблением процессуальными правами. Такая инструкция могла выдать указание автора за команду суда, его сотрудника или другой доверенной стороны.

После предупреждения Эллиотт не остановился и продолжил вставлять скрытые сообщения. Позднее он назвал их шутками: среди них были ссылка на ролик «Носферату», обращение «hi :) I hope you cant see me» и бессмысленный набор слов.

Денежный штраф суд назначать не стал. Вместо этого Эллиотту запретили пользоваться электронной системой и обязали подавать документы лично, на бумаге.

Раньше суды в основном сталкивались с выдуманными чат-ботами прецедентами и цитатами. Теперь появилась обратная угроза — манипуляция данными, поступающими на вход ИИ.

RSS: Новости на портале Anti-Malware.ru