软件介绍

Jan 是一款本地运行的开源 AI 助手软件,专为用户提供一个完全离线、隐私优先、操作简便的人工智能解决方案。作为 ChatGPT 等在线服务的替代品,Jan 支持在用户设备上 100% 离线运行大型语言模型(LLM),无需依赖网络连接或云端服务器。

Jan 是一个基于开源技术构建的项目,支持多种大型语言模型(如 Llama、Gemma、Qwen 等),并提供从模型下载到运行的一站式解决方案。开发者可以通过 GitHub 获取源代码,并利用 make 或 mise 工具进行开发和部署。Jan 不仅适合终端用户使用,也适合开发者参与贡献。

软件功能

1. 在地 AI 模型执行

用户可以从 HuggingFace 等平台下载并运行各种开源 LLM 模型。

在本地环境中完成训练、推理和测试全过程,确保数据安全性。

2. OpenAI 兼容 API 接口

提供本地服务接口 localhost:1337,兼容 OpenAI 标准 API,方便其他应用程序接入。

3. 个性化助手创建

支持用户根据特定任务创建专属 AI 助手,提高个性化工作效率。

4. 云服务集成

可连接 OpenAI、Anthropic、Mistral 和 Groq 等云端服务,实现混合使用模式。

MCP 模型上下文协议

MCP 增强了模型能力,并支持调用外部工具、执行代码和读写文件等功能。