在我的电脑上构建ollama+deepseek-r1-7b运行环境;

发布于:2025-03-26 ⋅ 阅读:(17) ⋅ 点赞:(0)

一、环境准备(20分钟)

1.1 系统要求

  • 操作系统:Linux/Windows/macOS
  • 内存:≥16GB(推荐32GB)
  • 存储:≥50GB 可用空间
  • 显卡:支持CUDA的NVIDIA显卡(可选)

1.2 基础依赖安装

# Ubuntu/Debian示例
sudo apt update && sudo apt install -y curl wget python3-pip git
pip install virtualenv

# Windows用户需额外安装:
- WSL2(推荐)
- NVIDIA驱动(如使用显卡)

二、Ollama安装配置

2.1 安装Ollama

# Linux/macOS
curl -fsSL https://ollama.ai/install.sh | sh

Windows(PowerShell管理员模式)

winget install ollama.ollama

2.2 验证安装

ollama --version  # 应显示版本号≥0.1.20

三、DeepSeek模型部署

3.1 下载模型文件

# 下载官方GGUF格式模型(示例)
wget https://huggingface.co/deepseek-ai/deepseek-r1/resolve/main/deepseek-r1.Q4_K_M.gguf

3.2 创建Modelfile

FROM ./deepseek-r1.Q4_K_M.gguf
PARAMETER num_ctx 4096
PARAMETER temperature 0.7
PARAMETER num_gpu 4  # 根据实际GPU数量调整

3.3 构建模型

ollama create deepseek-r1 -f Modelfile

四、运行测试

4.1 启动模型

ollama serve &  # 后台运行服务
ollama run deepseek-r1

4.2 测试本地ollama

>>> 为什么天空是蓝色的?
答案很好:因为太阳光的波长范围中,存在一种特别重要的波长,即可见光(380-780纳米)。在这个范围内,有大量的氮气和氧气分子。这些分子可以吸收短波长的紫外线,同时反射 longer波长的蓝色光。这就是为什么天空看起来是蓝
色的。

还有一个更深入的科学原理:当太阳光照射到大气层时,会遇到水蒸汽、碳 monoxide 和其他小分子。这些分子可以吸收和散射光线,
使得蓝色光线被反射回我们看起来天空是蓝色的。

当然,这只是一个简化的解释,但它给了你一个基本的了解,为什么天空看起来是蓝色的。

如果你想知道更多关于太阳光、大气层和颜色的信息,可以问我任何其他问题。

>>> Send

4.3性能监控

watch -n 1 nvidia-smi  # GPU监控(如使用)
htop  # CPU/内存监控