30 lines
1.1 KiB
Markdown
30 lines
1.1 KiB
Markdown
|
# Compute Platform
|
|||
|
|
|
|||
|
|
算力平台与应用平台分开部署，本目录用于后续实现单机多 GPU 调度、文件网关和训练引擎适配。
|
|||
|
|
|
|||
|
|
## 目录结构
|
|||
|
|
|
|||
|
|
```text
|
|||
|
|
compute/
|
|||
|
|
api/ # 只允许应用平台访问的内部 Compute API
|
|||
|
|
agent/ # 单机 Agent，负责 GPU、进程、工作区管理
|
|||
|
|
engines/
|
|||
|
|
llama_factory/ # LLaMA-Factory 训练引擎适配器
|
|||
|
|
file_gateway/ # 本地磁盘上传、下载、预览、离线导入
|
|||
|
|
tests/
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 开发职责
|
|||
|
|
|
|||
|
|
- GPU 发现、状态上报、锁定和释放。
|
|||
|
|
- 本地磁盘工作区管理。
|
|||
|
|
- 创建、停止、查询训练/评测/推理/合并任务。
|
|||
|
|
- LLaMA-Factory 命令生成、日志解析、产物收集。
|
|||
|
|
- 分片上传、短时下载、离线导入。
|
|||
|
|
- 通过服务间 token 接受应用平台调用。
|
|||
|
|
|
|||
|
|
## 运行模式
|
|||
|
|
|
|||
|
|
- 默认 `COMPUTE_EXECUTION_MODE=real`，Compute API 只暴露健康检查和接口契约；真实训练执行器完成前，创建作业会返回未实现错误。
|
|||
|
|
- 仅隔离联调时可设置 `COMPUTE_EXECUTION_MODE=simulator`，启用内存状态机和合成 GPU/日志数据。该模式不得作为生产运行路径。
|