Jan

Jan 是一个 100% 本地运行、开源、跨平台的 AI 聊天客户端，定位为 ChatGPT 的离线替代品。用户无需注册、无需联网，即可在 Windows / macOS / Linux 上通过图形界面调用 LLaMA、Gemma、Mistral 等主流开源大模型。项目完全开源托管在 GitHub，安装包一键下载，模型文件 GGUF 格式手动或自动导入，既保护隐私又降低门槛。官网提供详尽文档、教程与社区论坛，帮助零代码用户 3 分钟完成部署，立刻拥有属于自己的 AI 助手。

1. 多模型管理
   内置 Hub 一键搜索、下载、更新 50+ 开源模型（2B~70B），支持 Hugging Face 镜像加速；模型文件本地存储，可随时增删切换。
2. 全离线对话
   断网环境仍可文本对话、续写、翻译、代码问答；对话历史本地加密保存，支持多轮上下文记忆。
3. GPU / CPU 混合推理
   自动检测 NVIDIA / AMD / Apple Silicon，支持 CUDA、Metal、Vulkan 后端，低配核显也能跑 7B 模型。
4. API 服务器模式
   一键启动兼容 OpenAI 格式的本地 127.0.0.1:1337 服务，供 Obsidian、Dify、沉浸式翻译等外部应用调用。
5. 插件与扩展
   内置 Markdown、代码高亮、LaTeX 渲染；社区提供 Function Call、RAG 知识库、语音输入等插件。
6. 隐私与安全
   零云端依赖、零日志上传；可配置数据文件夹加密，企业级敏感场景合规使用。
7. 跨设备同步
   可选 WebDAV / Syncthing 同步对话与配置，兼顾隐私与多端体验。

• 个人学习：学生离线写论文、读代码、练口语，无需翻墙。
• 企业办公：财务、法务等涉密部门本地问答、文档生成，避免数据外泄。
• 开发调试：程序员本地调用 API 测试 LLM 应用，节省云 token 费用。
• 教育机房：学校机房无网环境一键部署，供全班 AI 编程课使用。
• 极客折腾：NAS、树莓派 24×7 运行私人 AI，配合 Home Assistant 实现语音管家。

• 零门槛：下载→安装→点击即用，对非程序员友好。
• 真离线：断网可跑，彻底杜绝监听与封号风险。
• 省成本：一次下载永久免费，无 token 计费。
• 高性能：GPU 加速下 70B 模型每秒 10+ tokens，速度媲美线上。
• 全开源：代码、模型权重、社区生态完全开放，可自订安全策略。