软件介绍
Jan 是一款本地运行的开源 AI 助手软件,专为用户提供一个完全离线、隐私优先、操作简便的人工智能解决方案。作为 ChatGPT 等在线服务的替代品,Jan 支持在用户设备上 100% 离线运行大型语言模型(LLM),无需依赖网络连接或云端服务器。
Jan 是一个基于开源技术构建的项目,支持多种大型语言模型(如 Llama、Gemma、Qwen 等),并提供从模型下载到运行的一站式解决方案。开发者可以通过 GitHub 获取源代码,并利用 make 或 mise 工具进行开发和部署。Jan 不仅适合终端用户使用,也适合开发者参与贡献。
软件功能
1. 在地 AI 模型执行
用户可以从 HuggingFace 等平台下载并运行各种开源 LLM 模型。
在本地环境中完成训练、推理和测试全过程,确保数据安全性。
2. OpenAI 兼容 API 接口
提供本地服务接口 localhost:1337,兼容 OpenAI 标准 API,方便其他应用程序接入。
3. 个性化助手创建
支持用户根据特定任务创建专属 AI 助手,提高个性化工作效率。
4. 云服务集成
可连接 OpenAI、Anthropic、Mistral 和 Groq 等云端服务,实现混合使用模式。