Opera добавила локальный ИИ: запросы обрабатываются на вашем компьютере

Нейросети в браузере необязательно кормить данными через чужой сервер. Opera представила раннюю версию поддержки WebAI — предложенного веб-стандарта, который позволяет сайтам и расширениям использовать ИИ-модели на компьютере пользователя. Первой площадкой стал Opera One, позднее возможности появятся в Opera GX и Neon.

О запуске и принципах работы компания рассказала в официальном анонсе.

WebAI рассчитан на разные модели, включая Gemma от Google. На совместимых яблочных компьютерах поддерживается и локальная фундаментальная модель Apple. Привязки к единственному поставщику не предполагается.

Есть генерация текста, классификация контента и анализ связей между фрагментами информации. Разработчики смогут добавлять такие функции без собственной серверной ИИ-инфраструктуры и оплаты каждого облачного запроса. Пользователю для локального выполнения не нужна подписка на внешний ИИ-сервис.

Функция включается добровольно. Вычисления происходят на устройстве, поэтому обрабатываемые локальной моделью данные не требуется отправлять облачному провайдеру.

Расплата за независимость от облака очевидная — нагрузка на компьютер. Скорость зависит от железа.