Jan

Jan是一款开源、注重隐私的本地AI平台，主打100%离线运行和用户数据自主控制，旨在为个人、开发者及企业提供类似ChatGPT的对话体验，同时彻底规避云端数据上传风险。它支持在本地设备上运行Llama3、Gemma、Mistral等主流开源大模型，兼容NVIDIA GPU、Apple M系列芯片及普通CPU，并提供OpenAI兼容的本地API（默认localhost:1337），便于集成到Continue.dev、Cline等开发工具中；既可纯离线使用，也支持按需连接GPT-4o、Claude等云模型；所有对话与文件均存储于用户本地，格式通用无厂商锁定，还具备模型中心、扩展生态、知识库检索和跨平台安装等能力。

• ✓ 本地运行开源大模型（如Llama3、Gemma、Mistral），完全离线保障隐私
• ✓ 提供OpenAI兼容的本地API服务器，一键启动并支持多种AI开发工具集成
• ✓ 支持灵活接入云端模型（如GPT-4o、Claude），不加价仅收原厂费用
• ✓ 内置模型中心，可从Hugging Face下载或导入GGUF格式模型
• ✓ 支持扩展机制，兼容llama.cpp、NVIDIA NIM等推理后端
• ✓ 允许上传文件进行对话与知识库构建，增强上下文理解能力

1. 1 从官网或GitHub下载对应系统（Windows/macOS/Linux）的安装包并完成安装
2. 2 启动Jan后，通过内置模型中心下载或导入GGUF格式的本地AI模型
3. 3 配置并启动本地API服务（默认端口1337），即可在VSCode、Cline等工具中调用
4. 4 如需增强能力，可安装扩展（如云模型连接器、知识检索插件）
5. 5 上传文档启用‘与文件对话’功能，构建个性化本地知识库
6. 6 根据硬件条件调整模型参数（如线程数、GPU加速开关）以优化性能

• → 个人创作者用于离线写作辅助、头脑风暴与内容润色
• → 程序员在本地环境中调试AI应用，或集成进代码编辑器提升开发效率
• → 科研人员处理敏感实验数据，无需联网即可生成分析报告与摘要
• → 企业IT部门部署内部AI助手，满足数据不出域的安全合规要求
• → 学生利用本地模型进行学习答疑、笔记整理与知识问答
• → 自由职业者在无稳定网络环境下，仍能使用高性能AI完成文案与翻译任务