Представлены проекты исследовательской программы Symantec

Представлены проекты исследовательской программы Symantec

Лаборатория Symantec Research Labs, исследовательское подразделение компании Symantec, показала ряд своих проектов, которые могут найти реально воплощение в коммерческих продуктах уже в ближайшие полтора года. В частности, показанные проекты связаны с социальными сетями, безопасностью мобильных устройств и облачным поисковым механизмом.

Проект по анализу прав доступа в социальных сетях ставит своей целью выработку рекомендаций по назначению ролей пользователей. В частности, с помощью создаваемой технологии IТ-менеджеры смогут узнать, как лучше распределить роли среди пользователей в системе ролевого контроля доступа. Дело в том, что назначение ролей для контролирования прав доступа является очень сложной задачей в крупных организациях. Сейчас специалисты Symantec пытаются применить свои технологии для предотвращения утечки данных (DLP - Data-Loss Prevention), чтобы исследовать активность пользователей.

Такое исследование помогает выявить сотрудничество между неформальными группами на основе событий и разного рода информации из файловой системы, порталов SharePoint и службы каталогов Microsoft Active Directory. В частности, с помощью таких инструментов можно построить структуру своего рода «внутренней социальной сети» в организации, а эту структуру уже можно формализовать в виде ролей и полномочий в системе ролевого контроля доступа RBAC (Role-Based Access Control).

Еще один передовой проект Symantec связан с предварительной оценкой потенциальной опасности тех или иных приложений. В частности, предлагается оценивать вредоносность или потенциальную опасность приложений по косвенным признакам. Например, если приложения делает совершенно не то, что заявлено в его описании, его следует считать «неблагонадежным». Как описывают свою работу исследователи, сейчас проект связан по большей части с Android и HTML5, поскольку из-за жесткого контроля Apple в системе iOS довольно сложно изучать работу приложений низкого уровня, передает soft.mail.ru.

Сейчас облачный анализ приложений уже реализован в таких продуктах, как Norton Security для Android, но в дальнейшем эта идея может выйти на новый, корпоративный уровень, когда оценка опасности приложений будет выполняться среди программ в корпоративном магазине приложений. Конечная цель проекта заключается в анализе приложений прямо в ходе исполнения с помощью специального эмулятора. Во время проверки будет оцениваться не только наличие уязвимостей или вирусов, но и любые приложения с нежелательным поведением. К подозрительным приложениям в таком случае будут причислены программы, которые отслеживают местоположение пользователя. При наличии списка таких подозрительных приложений администраторы смогут быстро их блокировать.

Третий представленный проект Symantec под названием Personal Cloud Search связан с персональным облачным поиском. В современном мире, где у каждого пользователя есть множество учетных записей в социальных сетях и службах электронной почты, исследователи Symantec предлагают использовать специальный сервис, который поможет собирать все содержимое и контактную информацию из этих учетных записей через единый портал управления личной информацией. Чтобы решить такую задачу, пользователю придется поделиться паролями к своим учетным записям – это необходимое условие для выполнения поиска. Как поясняют авторы, концепция построена на доверии пользователей к службам Symantec и самой компании, поскольку поисковые операции будут выполняться на собственных мощностях Symanteс.

Тем не менее, защиту новой технологии от утечки персональных данных должно обеспечить шифрование данных на всех уровня. Иными словами, компания Symantec не будет знать, что именно ищет пользователь, а информацию об истории поисковых запросов нельзя будет получить никому вообще. Это выгодное отличие от нынешней практики многих поисковых систем, которые нередко продают информацию о привычках и склонностях пользователей на сторону. По оценкам компании Symantec, функция персонального облачного поиска может впервые появиться в индивидуальных решениях резервного копирования вроде Norton Online Backup.

В России хотят поставить на учет учебные материалы для ИИ-моделей

Минцифры РФ готовит законопроект, обязывающий разработчиков раскрывать сведения о наборах данных, используемых для обучения ИИ-моделей. Инициатива пока обсуждается в профильных ведомствах и сообществах игроков рынка.

Как выяснили «Ведомости», создатели подобных решений должны будут указывать наименование набора для тренинга, дату его создания, формат, объем и происхождение. В перспективе возможно создание специализированного реестра для ИИ.

Предложение выдвинуто в рамках работы правительства над регулированием сферы ИИ. Пока лишь известно, что разрабатываемый закон определит критерии российского происхождения нейросетей, закрепит право на авторство, обязанности и ответственность разработчиков, а также введет маркировку ИИ-контента.

Параллельно российские власти работают над мерами противодействия использованию ИИ в противоправных целях. Предложено даже признать применение ИИ отягчающим обстоятельством при совершении преступлений.

Предложение Минцифры о раскрытии источников обучающих данных для больших языковых моделей пока не принято на рассмотрение. Опрошенные новостным изданием эксперты сомневаются, что иностранные вендоры вроде OpenAI, Microsoft, Google, Perplexity будут соблюдать это требование.

По идее, новая инициатива должна повысить доверие к ИИ, возможность независимой оценки качества таких решений и дисциплины работы с данными. В то же время нововведение, скорее всего, потребует создания специального реестра, который будет заполняться формально из-за увеличения нагрузки на разработчиков, заинтересованных в скорейшем выводе ИИ-решений на рынок.

В то же время эксперты отметили, что в условиях дефицита качественных и юридически чистых наборов данных для обучения ИИ раскрытие их происхождения будет способствовать формированию нового коммерческого рынка.

Использование данных, взятых из открытых источников и без ведома владельцев создает риски утечки конфиденциальной информации и порождает конфликт интересов в случаях нарушения авторских прав. Подобные ситуации вынуждают создателей ИИ-моделей более внимательно относиться к подбору учебных данных и в случае необходимости покупать права на контент либо заключать договоры на использование.

В настоящее время закона, регулирующего сферу ИИ, в России нет; в законодательстве даже отсутствуют нужные определения. Освоение таких технологий пока осуществляется в соответствии с утвержденной указом Президента стратегией развития ИИ до 2030 года.

По этой причине попытки госрегулирования пока носят декларативный или рекомендательный характер. Так, в конце прошлого года было выдвинуто предложение о создании технических стандартов по ИИ и продвижение их на международном уровне.

Минцифры также определилось с требованиями к ПАК для ИИ и собирается создать киберполигон для проверки безопасности ИИ-систем, предназначенных для использования на критически важных объектах.

RSS: Новости на портале Anti-Malware.ru