[AI]Mac本地部署DeepSeek R1模型 — — 保姆级教程
DeepSeek R1是中国AI初创公司深度求索(DeepSeek)推出大模型DeepSeek-R1。 作为一款开源模型,R1在数学、代码、自然语言推理等任务上的性能能够比肩OpenAI o1模型正式版,并采用MIT许可协议,支持免费商用、任意修改和衍生开发等。 截至2月5日,国内外已有众多云平台宣布上线DeepSeek- R1大模型。
- DeepSeek官方地址:https://www.deepseek.com/
- 但因目前遭到国外不明人员攻击以及访问量激增的原因,导致官方聊天不稳定,本文将介绍如何本地安装部署Deepseek R1模型,解决网络不稳定的窘境
安装ollama
访问官网选择mac os进行下载,官网地址:https://ollama.com/
下载下来的文件为:Ollama-darwin.zip
点击解压,并移动到application
点击next,点击Install安装ollama
安装Deepseek模型
根据页面提示在终端执行命令,运行ollama即可(但因为我们需要部署deepseek,所以后面修改下模型版本即可)
来到ollama官网,点击models,选择对应版本
点击之后,复制对应命令,在终端执行即可
等待模型下载完成后,就可以直接在终端进行对话
安装可视化聊天页面chatbox
- 通过终端命令行操作肯定是不太方便的,所以接下来我们将通过chatbox搭建web可视化页面,方便我们与其对话
- 打开官方地址:https://chatboxai.app/en,点击download
- 根据自己mac搭载的芯片,选择对应版本进行下载
- 下载完后是.dmg文件,直接双击无脑安装即可
- 然后在应用程序中找到我们安装的chatbox,双击启动,并选择使用自己的本地模型
- 选择模型提供方ollama,并配置本地模型参数
查看效果
来到聊天框,输入问题,查看AI回答:
拓展:ollama常用命令
# 启动ollama服务
ollama serve
# 创建模型:使用 Modelfile 来创建一个新模型。你需要提供一个包含模型信息的 Modelfile
ollama create /path/to/Modelfile
# 显示模型信息
ollama show model_name
# 列出本地所有模型
ollama list
ollama ls
# 运行模型
ollama run model_name
# 列出正在运行的模型
ollama ps
# 停止模型
ollama stop model_name
# 删除一个已安装的模型
ollama rm model_name
# 查看版本信息
ollama -v
# 复制模型
ollama cp old_model new_model
# 拉取远端模型
ollama pull model_name
# 将本地模型推送到模型注册表中,以便他人或其他系统使用
ollama push model_name
# 使用 ollama run 命令启动模型并进入交互模式,在交互模式下,输入 /bye 或按下 Ctrl+d 退出
ollama run deepseek-r1:1.5b
# 单次命令交互
echo "你是谁?" | ollama run deepseek-r1:1.5b