负载均衡式在线OJ
目录
1.项目介绍:
该项目完成了类似力扣,牛客网等网站的在线OJ功能, 通过平衡负载函数,将所有用户发出的请求平均分配给每一台主机,做到负载均衡实现高并发、高可用性和高性能。
三个板块:
comm : 时间戳生成、文件路径处理、文件读写操作以及字符串分割功能。compile_server : 编译与运⾏模块oj_server : 获取题目列表,查看题目编写题目界面,负载均衡等功能
开发环境 : C++、Ubuntu、vim、g++、gdb、git、Makefile
所用技术栈 : HTML、Json、STL标准库、Boost准标准库、cpp-httplib、ctemplate、MySQL
项目源码 :
2.comm
2.1 log.hpp
log.hpp定义了一个日志系统,可以进行日志等级,日志格式化,日志输出等功能,命名空间为ns_log。
日志等级
enum
{
INFO, // 信息级别日志
DEBUG, // 调试级别日志
WARNING, // 警告级别日志
ERROR, // 错误级别日志
FATAL // 致命错误级别日志
};
开放式日志
使用方法 : LOG(INFO) << "This is an info message" << "\n";
inline std::ostream &Log(const std::string &level, const std::string &file_name, int line)
#define LOG(level) Log(#level, __FILE__, __LINE__)
时间戳工具
TimeUtil::GetTimeStamp()
2.2 util.hpp
TimeUtil类
此类中共有两个接口,分别为GetTimeStamp(),用于获取当前时间的秒级时间戳,目的是为了给文件形成唯一的文件名,另外一个是GetTimeMs()获取当前时间的毫秒级时间戳。
static std::string GetTimeStamp()
static std::string GetTimeMs()
PathUtil类
该类共有7个接口
AddSuffix:将文件名与后缀拼接,生成完整的文件路径 ;
Src: 构建源文件的完整路径,返回.cpp后缀的文件;
Exe:构建可执行文件的完整路径,添加.exe后缀
CompileError:构建编译错误文件的完整路径,添加.compile_error后缀
Stdin:构建标准输入文件的完整路径,添加.stdin后缀
Stdout:构建标准输出文件的完整路径,添加.stdout后缀Stderr:构建标准错误文件的完整路径,添加.stderr后缀
static std::string AddSuffix(const std::string &file_name, const std::string &suffix)
static std::string Src(const std::string &file_name)
static std::string Exe(const std::string &file_name)
static std::string CompilerError(const std::string &file_name)
static std::string Stdin(const std::string &file_name)
static std::string Stdout(const std::string &file_name)
static std::string Stderr(const std::string &file_name)
FileUtil类
IsFileExists:检查文件是否存在,存在返回true,不存在返回false
static bool IsFileExists(const std::string &path_name)
UniqFileName:使用上述GetTimeMs函数获得唯一文件名
static std::string UniqFileName()
WriteFile:将内容写入指定文件,target为目标文件路径,content为要写入的内容,写入成功为true
static bool WriteFile(const std::string &target, const std::string &content)
ReadFile: 读取文件的内容,target:目标文件路径,content:用于存储读取内容的字符串指针
static bool ReadFile(const std::string &target, std::string *content, bool keep = false)
StringUtil类
SplitString:将字符串按指定分隔符切分,并存储到target中,str:要切分的字符串,target:存储切结果的字符串向量,sep:切割符,该方法是基于Boost库实现的
static void SplitString(const std::string &str, std::vector<std::string> *target, const std::string &sep)
3.Compile_server
3.1compile_run.hpp
编译用户代码: 将用户提交的代码编译为可执行文件。
运行用户程序: 在限制的 CPU 时间和内存内运行用户程序。
处理运行结果: 根据运行结果生成状态码和描述信息。
清理临时文件: 在运行结束后清理生成的临时文件
RemoveTempFile
static void RemoveTempFile(const std::string &file_name)
该方法用于清理有指定文件名相关的临时文件。可用于清理以下文件:
源文件 (file_name.cpp)
编译错误文件 (file_name.compile_error)
可执行文件 (file_name.exe)
标准输入文件 (file_name.stdin)
标准输出文件 (file_name.stdout)
标准错误文件 (file_name.stderr)
CodeToDesc
static std::string CodeToDesc(int code, const std::string &file_name)
该方法的作用是将状态码转换为描述信息
code:状态码,file_name:文件名 以下为状态码处理:
0: 编译运行成功。
-1: 提交的代码为空。
-2: 未知错误。
-3: 编译错误(从 file_name.compile_error 文件中读取错误信息)。
SIGABRT (6): 内存超过范围。
SIGXCPU (24): CPU 使用超时。
SIGFPE (8): 浮点数溢出。
Start
static void Start(const std::string &in_json, std::string *out_json)
该方法:编译并运行用户提交的代码,返回运行结果
参数:in_json:输入的 JSON 字符串,包含用户代码、输入、CPU 时间限制和内存限制
out_json:输出的 JSON 字符串,包含状态码、描述信息、标准输出和标准错误
输入JSON格式:
{
"code": "用户提交的代码",
"input": "用户输入",
"cpu_limit": "CPU 时间限制",
"mem_limit": "内存限制"
}
输出JSON格式:
{
"status": "状态码",
"reason": "描述信息",
"stdout": "标准输出",
"stderr": "标准错误"
}
解析输入 JSON,获取代码、输入、CPU 限制和内存限制。
检查代码是否为空,如果为空,设置状态码为 -1。
生成唯一的文件名,并将代码写入临时源文件。
调用 Compiler::Compile 编译代码:
如果编译失败,设置状态码为 -3。
调用 Runner::Run 运行编译后的程序:
如果运行失败,设置状态码为运行结果。
根据状态码生成描述信息。
如果运行成功,读取标准输出和标准错误文件的内容。
将结果写入输出 JSON。
(可选)清理临时文件
所依赖的外部模块:
Compiler
: 编译模块,负责将用户代码编译为可执行文件。
Runner
: 运行模块,负责运行编译后的程序,并限制其 CPU 和内存使用。
ns_log
: 日志模块,用于记录日志信息。
ns_util
: 工具模块,提供文件、路径、时间等工具函数。
JsonCpp
: 用于解析和生成 JSON 数据。
3.2compile.hpp
Compiler类
Compile
static bool Compile(const std::string &file_name)
使用 fork 创建子进程。
在子进程中:
打开编译错误文件(file_name.compile_error),用于存储编译错误信息。
使用 dup2 将标准错误输出重定向到编译错误文件。
使用 execlp 调用 g++ 编译器,将源文件(file_name.cpp)编译为可执行文件(file_name.exe)。
如果 execlp 失败,记录错误日志并退出。
在父进程中:
使用 waitpid 等待子进程结束。
检查是否生成了可执行文件(file_name.exe)。
如果生成成功,记录日志并返回 true;否则返回 false。
所依赖的外部模块:
ns_util
: 工具模块,提供路径拼接和文件操作功能。
PathUtil::Src(file_name)
: 获取源文件路径(./temp/file_name.cpp
)。
PathUtil::Exe(file_name)
: 获取可执行文件路径(./temp/file_name.exe
)。
PathUtil::CompilerError(file_name)
: 获取编译错误文件路径(./temp/file_name.compile_error
)。
FileUtil::IsFileExists(path)
: 检查文件是否存在。
ns_log
: 日志模块,用于记录日志信息。
LOG(INFO)
: 记录信息日志。
LOG(WARNING)
: 记录警告日志。
LOG(ERROR)
: 记录错误日志
3.3runner.hpp
Runner类
SetProcLimit接口
static void SetProcLimit(int _cpu_limit, int _mem_limit)
参数:_cpu_limit:CPU时间限制,_mem_limit:内存资源限制,设置进程的 CPU 和内存资源限制。
setrlimit
系统调用设置资源限制。RLIMIT_CPU
: 限制 CPU 时间。RLIMIT_AS
: 限制虚拟内存大小。
Run接口
运行编译后的程序,并限制其 CPU 和内存资源使用
static int Run(const std::string &file_name, int cpu_limit, int mem_limit)
> 0
: 程序异常退出,返回值为收到的信号编号。
== 0
: 程序正常运行完毕。
< 0
: 内部错误(如文件打开失败或子进程创建失败)
获取可执行文件、标准输入、标准输出和标准错误的路径。
打开标准输入、标准输出和标准错误文件。
使用
fork
创建子进程。在子进程中:
使用
dup2
重定向标准输入、标准输出和标准错误。调用
SetProcLimit
设置资源限制。使用
execl
运行可执行程序。如果
execl
失败,记录错误日志并退出。在父进程中:
关闭文件描述符。
使用
waitpid
等待子进程结束。获取子进程的退出状态,并返回状态码的低 7 位(信号编号)。
依赖的外部模块
ns_util
: 工具模块,提供路径拼接功能。
PathUtil::Exe(file_name)
: 获取可执行文件路径(./temp/file_name.exe
)。
PathUtil::Stdin(file_name)
: 获取标准输入文件路径(./temp/file_name.stdin
)。
PathUtil::Stdout(file_name)
: 获取标准输出文件路径(./temp/file_name.stdout
)。
PathUtil::Stderr(file_name)
: 获取标准错误文件路径(./temp/file_name.stderr
)。
ns_log
: 日志模块,用于记录日志信息。
LOG(INFO)
: 记录信息日志。
LOG(ERROR)
: 记录错误日志。
4.oj_server
4.1 oj_control.hpp
主要的功能:管理题目数据,渲染网面,负载均衡,调用编译和运行服务。
核心类
Machine:表示提供编译和运行服务的主机
LoadBlance:实现负载均衡
Control:核心业务逻辑处理器
依赖模块
ns_model
: 题目数据管理。
ns_view
: HTML 渲染。
ns_log
: 日志记录。
ns_util
: 工具函数。
httplib
: HTTP 客户端。
Machine类
IncLoad
void IncLoad()//增加主机负载,使用互斥锁保护负载变量,确保线程安全。
DecLoad
void DecLoad()//减少主机负载,使用互斥锁保护负载变量,确保线程安全。
ResetLoad
void ResetLoad()//重置主机的负载为0,使用互斥锁保护负载变量,确保线程安全
Load
uint64_t Load() //获取主机的当前负载,使用互斥锁保护负载变量,确保线程安全
LoadBlance类
LoadConf
bool LoadConf(const std::string &machine_conf)
从配置文件中加载主机信息,参数:machine_conf:配置文件路径
读取配置文件,解析每台主机的 IP 和端口。初始化主机对象,并将其加入在线主机列表。
SmartChoice
bool SmartChoice(int *id, Machine **m)
参数:id 输出型参数返回选择的主机ID, m:输出参数,返回选择的主机的对象指针。
遍历在线主机列表,选择负载最低的主机
OfflineMachine
void OfflineMachine(int which)//将指定主机离线
which为要离线的主机ID
OnlineMachine
void OnlineMachine()//将所有离线主机全部上线
ShowMachine
void ShowMachines()//打印当前在线和离线主机列表(用于调试)。
Control类
核心业务逻辑控制器,负责管理题目数据、渲染网页、负载均衡以及调用编译和运行服务。
RecoveryMachine
void RecoveryMachine()//恢复离线主机为在线状态
AllQuestions
bool AllQuestions(string *html) //获取所有题目数据并渲染为网页。
html:输出参数,返回渲染后的HTML内容
从Model获取所有题目数据,使用View渲染题目列表为HTML
Question
bool Question(const string &number, string *html)//获取指定题目数据并渲染为网页
number: 题目编号。html: 输出参数,返回渲染后的 HTML 内容。
Judge
void Judge(const std::string &number, const std::string in_json, std::string *out_json)
参数:number:题目编号,in_json:输入的JSON数据,out_json:输出的JSON数据,包含评测数据
从 Model 获取指定题目的详细信息。
解析输入 JSON,拼接用户代码和测试用例代码。
使用负载均衡选择主机,发起 HTTP 请求调用编译和运行服务。
将评测结果写入输出 JSON。
所依赖的外部模块
ns_model
: 提供题目数据管理功能。
GetAllQuestions
: 获取所有题目数据。
GetOneQuestion
: 获取指定题目数据。
ns_view
: 提供 HTML 渲染功能。
AllExpandHtml
: 渲染题目列表为 HTML。
OneExpandHtml
: 渲染题目详情为 HTML。
ns_log
: 提供日志记录功能。
ns_util
: 提供工具函数(如字符串分割)。
httplib
: 提供 HTTP 客户端功能,用于调用编译和运行服务。
4.2 oj_model
Question结构体
变量名 | 类型 | 描述 |
number | std::string | 题目编号,唯一标识 |
title | std::string | 题目标题 |
star | std::string | 题目难度(简单、中等、困难) |
desc | std::string | 题目描述 |
header | std::string | 题目预设代码(用户编辑器的初始代码) |
tail | std::string | 题目测试用例(与 header 拼接形成完整代码) |
cpu_limit | int | 题目时间限制(单位:秒) |
mem_limit | int | 题目空间限制(单位:KB) |
Model类
QueryMysql
bool QueryMySql(const std::string &sql, vector<Question> *out)//执行 SQL 查询,并将结果存储到 out 中。
sql:要执行的SQL查询语句,out:输出参数,存储查询结果的Question向量
GetAllQuestions
bool GetAllQuestions(vector<Question> *out)
构造 SQL 查询语句:
SELECT * FROM oj_questions
调用
QueryMySql
执行查询
GetOneQuestion
bool GetOneQuestion(const std::string &number, Question *q)
构造 SQL 查询语句:SELECT * FROM oj_questions WHERE number=<number>。
调用 QueryMySql 执行查询。
如果查询结果中有且仅有一条记录,将其赋值给 q。
依赖的外部模块
ns_log
: 提供日志记录功能。
LOG(INFO)
: 记录信息日志。
LOG(WARNING)
: 记录警告日志。
LOG(FATAL)
: 记录致命错误日志。
ns_util
: 提供工具函数。
mysql.h
: MySQL C API 头文件,用于连接和操作 MySQL 数据库。
// 以下是硬编码的常量 const std::string oj_questions = "oj_questions"; // 数据库表名 const std::string host = "127.0.0.1"; // MySQL 服务器地址 const std::string user = "oj_client"; // MySQL 用户名 const std::string passwd = "123456"; // MySQL 密码 const std::string db = "oj"; // 数据库名称 const int port = 3306; // MySQL 服务器端口号
4.3 oj_view
AllExpandHtml
void AllExpandHtml(const vector<struct Question> &questions, std::string *html)
question:题目列表,包含所有题目的详细信息,html:输出参数,存储渲染后的html内容。
构造模板文件路径:
./template_html/all_questions.html
。创建
ctemplate::TemplateDictionary
对象root
,用于存储模板数据。遍历题目列表,将每个题目的编号、标题和难度添加到模板数据中。
加载模板文件。
使用模板数据渲染 HTML 页面,并将结果存储到
html
中。
OneExpandHtml
q:单个题目的详细信息,html:输出参数存储渲染后的html内容
构造模板文件路径:
./template_html/one_question.html
。创建
ctemplate::TemplateDictionary
对象root
,用于存储模板数据。将题目的编号、标题、难度、描述和预设代码添加到模板数据中。
加载模板文件。
使用模板数据渲染 HTML 页面,并将结果存储到
html
中。
所依赖的外部模块
ctemplate: 用于 HTML 模板渲染。
ctemplate::TemplateDictionary: 存储模板数据。
ctemplate::Template: 加载和渲染模板文件。
ns_model: 提供题目数据管理功能。
Question: 题目数据结构,包含编号、标题、难度、描述、预设代码等信息。