Создатель Signal Мокси Марлинспайк решил взяться за новую «больную точку» цифрового мира — конфиденциальность в ИИ-чатах. Его новый проект называется Confer и выглядит как попытка сделать для ИИ то же самое, что Signal однажды сделал для мессенджеров.
Confer — это ассистент с открытым исходным кодом, который изначально спроектирован так, чтобы никто, кроме самого пользователя, не мог прочитать его запросы и ответы нейросети.
Ни администраторы сервиса, ни хакеры, ни правоохранительные органы — доступ к данным есть только у владельца аккаунта.
Марлинспайк исходит из простой, но неприятной реальности: современные ИИ-платформы по своей природе являются «пылесосами данных». Пользователи охотно делятся с чат-ботами личными переживаниями, рабочими деталями, медицинскими и финансовыми вопросами — зачастую воспринимая диалог как разговор с доверенным собеседником. Но юридически и технически эти данные почти всегда остаются под контролем платформы.
Confer ломает эту модель. Все запросы пользователей и ответы языковой модели шифруются внутри доверенной среды исполнения (TEE). Даже серверные администраторы физически не могут заглянуть внутрь или что-то подменить. Диалоги хранятся на серверах только в зашифрованном виде, а ключи остаются исключительно на устройствах пользователей.
В основе Confer — ключи доступа, современный стандарт аутентификации. Закрытый ключ хранится в защищённом хранилище устройства и используется не только для входа, но и для шифрования всей переписки. Это обеспечивает сквозное шифрование и прямой аналог E2EE, знакомый по Signal.
Дополнительно Confer использует удалённую аттестацию: любой желающий может криптографически проверить, что на серверах действительно запущен именно тот открытый исходный код, который опубликован, и ничего лишнего там нет. Каждая версия подписывается и публикуется в журнале прозрачности.
При этом пользовательский интерфейс максимально простой: вход, расшифровка чатов и синхронизация между устройствами происходят почти незаметно — ровно так же, как когда-то в Signal.
По словам Марлинспайка, пользователи Confer уже рассказывают о «жизненно важных» разговорах, на которые они не решались в ChatGPT или других популярных сервисах — именно из-за страха за приватность.
Confer — не единственный приватный ИИ-ассистент на рынке. Похожие подходы используют Proton (Lumo) и Venice, но крупных игроков с полноценным сквозным шифрованием среди них пока нет.
Confer уже работает на macOS, iOS и Android. Поддержка Windows возможна через сторонний аутентификатор, а Linux — через браузерное расширение.
Если проект получит развитие, он может задать новый стандарт для ИИ-сервисов, где приватность — технический факт.
Комментирует Сергей Хайрук, аналитик InfoWatch:
«Страховые компании наряду с финансовыми организациями периодически сталкиваются с нелояльностью собственных сотрудников. С начала этого года мы уже зарегистрировали 35 серьезных инцидентов в банках и страховых компаниях. В большинстве случаев вина за утечки данных и нелегитимное использование информации лежит на персонале пострадавших компаний. За 2013 год из банков и страховых компаний во всем мире утекло более 1,77 млн записей – персональные и платежные данные пользователей. В нашей стране за тот же период на долю сегмента «банки и финансы», куда входят страховые компании, пришлось 16% всех утечек персональных данных».