[AI]Mac本地部署Deepseek R1模型 — — 保姆级教程

发布于:2025-02-11 ⋅ 阅读:(22) ⋅ 点赞:(0)

[AI]Mac本地部署DeepSeek R1模型 — — 保姆级教程

DeepSeek R1是中国AI初创公司深度求索(DeepSeek)推出大模型DeepSeek-R1。 作为一款开源模型,R1在数学、代码、自然语言推理等任务上的性能能够比肩OpenAI o1模型正式版,并采用MIT许可协议,支持免费商用、任意修改和衍生开发等。 截至2月5日,国内外已有众多云平台宣布上线DeepSeek- R1大模型。

  • DeepSeek官方地址:https://www.deepseek.com/
    在这里插入图片描述
  • 但因目前遭到国外不明人员攻击以及访问量激增的原因,导致官方聊天不稳定,本文将介绍如何本地安装部署Deepseek R1模型,解决网络不稳定的窘境

安装ollama

  1. 访问官网选择mac os进行下载,官网地址:https://ollama.com/
    在这里插入图片描述

  2. 下载下来的文件为:Ollama-darwin.zip

  3. 点击解压,并移动到application
    在这里插入图片描述

  4. 点击next,点击Install安装ollama

安装Deepseek模型

  1. 根据页面提示在终端执行命令,运行ollama即可(但因为我们需要部署deepseek,所以后面修改下模型版本即可)
    [图片]

  2. 来到ollama官网,点击models,选择对应版本
    [图片]

  3. 点击之后,复制对应命令,在终端执行即可
    在这里插入图片描述
    在这里插入图片描述

  4. 等待模型下载完成后,就可以直接在终端进行对话
    在这里插入图片描述

安装可视化聊天页面chatbox

  1. 通过终端命令行操作肯定是不太方便的,所以接下来我们将通过chatbox搭建web可视化页面,方便我们与其对话
  • 打开官方地址:https://chatboxai.app/en,点击download
    在这里插入图片描述
  • 根据自己mac搭载的芯片,选择对应版本进行下载
    在这里插入图片描述
  1. 下载完后是.dmg文件,直接双击无脑安装即可
    在这里插入图片描述
  2. 然后在应用程序中找到我们安装的chatbox,双击启动,并选择使用自己的本地模型
    在这里插入图片描述
    在这里插入图片描述
  3. 选择模型提供方ollama,并配置本地模型参数
    在这里插入图片描述

查看效果

来到聊天框,输入问题,查看AI回答:
在这里插入图片描述

拓展:ollama常用命令

# 启动ollama服务
ollama serve

# 创建模型:使用 Modelfile 来创建一个新模型。你需要提供一个包含模型信息的 Modelfile
ollama create /path/to/Modelfile

# 显示模型信息
ollama show model_name

# 列出本地所有模型
ollama list
ollama ls

# 运行模型
ollama run model_name

# 列出正在运行的模型
ollama ps

# 停止模型
ollama stop model_name

# 删除一个已安装的模型
ollama rm model_name

# 查看版本信息
ollama -v

# 复制模型
ollama cp old_model new_model

# 拉取远端模型
ollama pull model_name

# 将本地模型推送到模型注册表中,以便他人或其他系统使用
ollama push model_name

# 使用 ollama run 命令启动模型并进入交互模式,在交互模式下,输入 /bye 或按下 Ctrl+d 退出
ollama run deepseek-r1:1.5b

# 单次命令交互
echo "你是谁?" | ollama run deepseek-r1:1.5b