解决Deepseek“服务器繁忙,请稍后再试”问题,基于硅基流动和chatbox的解决方案

发布于:2025-02-28 ⋅ 阅读:(19) ⋅ 点赞:(0)

前言

最近在使用DeepSeek时,开启深度思考功能后,频繁遇到“服务器繁忙,请稍后再试”的提示,体验大打折扣。
在这里插入图片描述
为了解决这个问题,我尝试在本地配置deepseek-r1的蒸馏模型(如Ollama+chatbox,支持7B、14B、32B、70B版本),但发现70B以下的模型效果与网页版差距较大,本地部署的意义有限。
此外,我有时并不需要开启R1深度思考模型,而是更倾向于使用V3版本。同时,我还想尝试Qwen 2.5 32B模型在代码编写辅助方面的表现。
经过一番搜索,我发现了另一种更灵活的解决方案:通过大模型云服务平台,以免费或付费的方式将所需模型的API整合到chatbox中,实现便捷的访问和模型切换。
本文将以硅基流动为例,分享这类一站式云服务平台与chatbox的配置教程,供大家参考。


操作步骤

步骤1:注册账号

登录硅基流动https://cloud.siliconflow.cn/i/ai8Z8qFu,注册账号。

在这里插入图片描述

步骤2:在线体验

网站注册后可领14元的体验额度,可通过点击可用赠费筛选出可供免费体验的模型,如deepseek-ai/DeepSeek-R1

对于部分模型,平台同时提供免费版和收费版。免费版按照原名称命名;收费版会在名称前加上“Pro/”以示区分。例如,DeepSeek-R1的免费版命名为“deepseek-ai/DeepSeek-R1”,收费版则命名为“Pro/deepseek-ai/DeepSeek-R1”。在这里插入图片描述在这里插入图片描述

步骤3:获取API密钥

API密钥相当于访问硅基流动模型库的授权码,可通过API密钥->新建密钥获取,具体步骤如下:

在这里插入图片描述
在这里插入图片描述
创建API密钥后,即可通过复制得到完整的API密钥,需要注意的是不要将自己的API密钥泄露给其他人。

步骤4:安装chatbox

chatbox网址:https://chatboxai.app/zh
在这里插入图片描述

步骤5:chatbox设置

1.安装chatbox后,打开左下角的设置窗口
在这里插入图片描述
2. 添加自定义提供方,在下拉菜单,选择添加自定义提供方
在这里插入图片描述
3. 添加硅基流动API
可参考下图进行设置,需要设置的参数包括:
在这里插入图片描述

  • API模式:OpenAI API兼容
  • 名称:自定义,如硅基流动)
  • API域名:https://api.siliconflow.cn/v1
  • API路径:/chat/completions
  • API密钥重要):输入步骤三中创建的密钥
  • 模型重要):要添加的模型名称

其中,模型参数通过手动输入添加,可在硅基流动官网点击模型旁边的复制按钮获取。
在这里插入图片描述
以下是一些常用的模型名称
deepseek-ai/DeepSeek-R1
deepseek-ai/DeepSeek-V3
deepseek-ai/DeepSeek-R1-Distill-Llama-70B
Qwen/Qwen2.5-Coder-32B-Instruct
Pro/deepseek-ai/DeepSeek-R1(收费版)
Pro/deepseek-ai/DeepSeek-V3(收费版)


通过以上步骤后,就可以在chatbox的对话框右下角灵活的切换各种模型,并进行对话了
在这里插入图片描述

价格方面

个人的理解是该网站租了一些算力部署本地的deepseek-r1版模型,然后将这部分成本平坦给用户。付费价格方面,对比deepseek官网的token价格基本一致,R1模型均为输入 4元/M Tokens, 输出16元/M Tokens。
在这里插入图片描述
最后,需要说明的是,尽管多数平台声称其模型为671B满血版,但模型性能不仅取决于参数量。实际表现与DeepSeek官网存在差距。