Jan(Jan.ai)是一款免费的开源工具,旨在支持本地运行大规模语言模型并进行AI对话。用户可以在Windows、Mac和Linux操作系统上安装和使用此工具,来替代如LLaMa、Mistral、Phi-2等超过20个开源大模型,或者使用自己的OpenAI API Key来运行GPT。与之前介绍过的Ollama工具相比,Jan提供了更加完整的对话界面和API服务器,特别适合开发者、研究人员或AI爱好者在本地环境中体验开源大模型的功能。
Jan的核心功能
- 支持本地运行多种开源大模型:Jan可以运行超过20个模型,包括LLaMa、Mistral、Phi-2、DeepSeek、Yi等,用户不仅可以手动导入模型,也可以从模型库中下载所需的版本。
- 简洁的聊天界面:Jan提供一个直观易用的界面,清爽简洁,用户可以轻松地在本地与开源大模型进行即时对话。
- 跨平台支持:Jan兼容Windows、Mac(包括Intel、M1/M2/M3芯片)和Linux操作系统,未来还将推出移动端APP版本。
- 内建API服务器:Jan具备API服务器功能,兼容OpenAI的API,用户可以通过API接口管理模型的启动、停止、获取信息以及进行对话等操作。
如何开始使用Jan
- 首先访问Jan的官方网站(jan.ai),选择与你操作系统相对应的版本,点击下载按钮。
- 下载完成后,安装并打开软件。在软件界面左下角点击“Download your first model”。
- 进入模型库界面,浏览并选择你感兴趣的模型进行下载,下载完成后,点击“Use”开始使用该模型。
- 在对话框中输入你的问题或描述,即可开始与所选模型进行互动。
Jan目前仍在不断更新和完善中,未来计划增加移动端APP、AI助理创建、推理引擎、插件扩展等更多功能。