
Agentary介绍
Agentary是一款开源JavaScript SDK,专为在浏览器中构建和运行自主AI代理而设计,支持WebGPU与WebAssembly加速,实现完全本地化、离线可用的AI推理。它无需服务器或云端API,所有数据处理均在用户设备端完成,保障极致隐私、零延迟响应和无运营成本。开发者可轻松集成量化语言模型,定义多步骤工作流,并调用自定义工具或API,适用于对安全性、实时性和成本敏感的各类Web应用。
Agentary的主要功能
- 浏览器内原生AI执行,全程离线运行
- WebGPU硬件加速,实现低延迟令牌流输出
- 支持复杂代理工作流与条件逻辑编排
- 可注册并调用自定义工具与外部API函数
- 多模型并行运行,适配聊天、推理、规划等不同任务
Agentary如何使用
- 通过npm安装SDK:npm install agentary-js
- 在项目中导入SDK并初始化AI代理实例
- 定义代理目标与工作流逻辑(如提示词或工具链)
- 加载量化模型并在WebGPU上启动本地推理
- 部署后即可在浏览器中直接运行,无需后端服务
Agentary的应用场景
- 隐私敏感的健康数据分析,如本地解析可穿戴设备数据
- 创意写作辅助工具,摆脱云API调用限制与额度困扰
- 交互式教育辅导应用,确保学生行为与问答数据不外泄
- 企业级本地文档智能问答系统,处理机密研发资料
- 离线环境下的邮件撰写与语法修正助手