windows使用Docker-Desktop部署lobe-chat

发布于:2024-05-16 ⋅ 阅读:(83) ⋅ 点赞:(0)

window安装docker-desktop

  1. docker-desktop下载地址
    在这里插入图片描述
  2. 正常安装应用,然后启动应用,注意启动docker引擎
    在这里插入图片描述
  3. 打开右上角的设置,进入Docker Engine设置配置镜像加速地址
    在这里插入图片描述
    • 这里作者的机器配置如下,以供参考,(作者的机器内存比较大一些,所以默认虚拟机内存较大)
    {
      "builder": {
        "gc": {
          "defaultKeepStorage": "20GB",
          "enabled": true
        }
      },
      "experimental": false,
      "registry-mirrors": [
        "https://hub-mirror.c.163.com",
        "https://docker.m.daocloud.io",
        "https://ghcr.nju.edu.cn",
        "https://mirror.baidubce.com",
        "https://docker.nju.edu.cn"
      ]
    }
    

下载和启动lobe-chat

  1. 点击上面中间的搜索框,搜索lobe-chat,点击拉取pull
    在这里插入图片描述
  2. 拉取成功后,即在Images中可看到拉取的镜像文件
    在这里插入图片描述
  3. Win+R运行窗口,输入cmd进入终端,输入以下启动命令,然后访问lobe-chat地址http://localhost:3210/
    docker run -d -p 3210:3210 -e OPENAI_KEY=sk-xxx -e ACCESS_CODE=lobe66 --name lobe-chat lobehub/lobe-chat
    

在这里插入图片描述

AI大语言模型的选择

  • AI大语言模型主要分为国外大模型和国内大模型。国外大模型:受限,或者不稳定。国内大模型,稳定,方便。
  • 国内大模型排行榜:基于中文语言理解测评基准,包括代表性的数据集、基准(预训练)模型、语料库、排行榜。选择一系列有一定代表性的任务对应的数据集,做为测试基准的数据集,这些数据集会覆盖不同的任务、数据量、任务难度。
    在这里插入图片描述

lobe-chat设置大模型连接

  1. 在设置中的语言模型中设置OpenAI连接,国内的朋友可以尝试openai-hk,然后点击检查验证是否可行
  • 注意API代理地址使用https://api.openai-hk.com/v1
    在这里插入图片描述
  1. 本地Ollama大模型服务的连接设置如下,然后点击检查验证是否可行
    在这里插入图片描述