酷特喵
酷特喵

Agentary

浏览器内离线运行AI代理的开源SDK

0 浏览
2026年8月10日

Agentary介绍

Agentary是一款开源JavaScript SDK,专为在浏览器中构建和运行自主AI代理而设计,支持WebGPU与WebAssembly加速,实现完全本地化、离线可用的AI推理。它无需服务器或云端API,所有数据处理均在用户设备端完成,保障极致隐私、零延迟响应和无运营成本。开发者可轻松集成量化语言模型,定义多步骤工作流,并调用自定义工具或API,适用于对安全性、实时性和成本敏感的各类Web应用。

Agentary的主要功能

  • 浏览器内原生AI执行,全程离线运行
  • WebGPU硬件加速,实现低延迟令牌流输出
  • 支持复杂代理工作流与条件逻辑编排
  • 可注册并调用自定义工具与外部API函数
  • 多模型并行运行,适配聊天、推理、规划等不同任务

Agentary如何使用

  1. 1通过npm安装SDK:npm install agentary-js
  2. 2在项目中导入SDK并初始化AI代理实例
  3. 3定义代理目标与工作流逻辑(如提示词或工具链)
  4. 4加载量化模型并在WebGPU上启动本地推理
  5. 5部署后即可在浏览器中直接运行,无需后端服务

Agentary的应用场景

  • 隐私敏感的健康数据分析,如本地解析可穿戴设备数据
  • 创意写作辅助工具,摆脱云API调用限制与额度困扰
  • 交互式教育辅导应用,确保学生行为与问答数据不外泄
  • 企业级本地文档智能问答系统,处理机密研发资料
  • 离线环境下的邮件撰写与语法修正助手