caoxiaozhu 03254f8196 feat(data_process): 模型缓存统一仓库根 .cache 并修复 PDF 页眉页脚清理
- 新增 app/core/cache_paths.py:HF_HOME / tiktoken 缓存统一指向 <repo>/.cache,
  本地与 Docker 路径一致,离线部署打包 .cache 即可
- Dockerfile.backend 的 tiktoken 词表改用官方 SHA 文件名,避免运行时回退重建
- 修复 layout_hybrid 路径不运行 detect_pdf_document_noise 的缺陷:
  needs_pdf_noise 不再与 needs_layout_raw 互斥,PDF 智能预处理在版面切分下也生效
- 新增 layout_noise.py:识别跨页重复的页眉表格标签组并按行剔除,
  解决 docling layout 模型把中文企业 PDF 页眉识别成普通 Table 导致清不掉的问题
- 回收 HybridChunker 丢弃的末尾孤立标题,找回章节标题内容
2026-08-21 10:16:23 +08:00
2026-08-21 09:42:03 +08:00
2026-08-21 09:42:03 +08:00
2026-08-05 16:23:00 +08:00

YG_FT 模型微调平台

YG_FT 是面向多用户、多租户和多算力节点的模型训练与推理平台,提供数据集、模型、训练、权重合并、推理、评测、算力节点、项目隔离、权限和审计能力。

架构

浏览器 -> Frontend Nginx:16801 -> Backend API:17861
                                      |-> PostgreSQL元数据、权限、审计、任务状态
                                      |-> Redis缓存及任务辅助状态
                                      |-> MinIO:19000模型和数据唯一对象源
                                      |-> Compute API:19100
                                                |-> Compute Agent/GPU/LLaMA-Factory
                                      `-> File Gateway:19101

Backend、MinIO 和 Compute 节点可以部署在不同服务器,不依赖跨服务器 Docker 网络,通过 IP、DNS 或负载均衡地址通信。Compute 节点只保存按需准备的本地缓存MinIO 是模型、数据集、权重、评测报告和训练产物的唯一数据源。

目录

目录 作用
frontend/ Vue 3、TypeScript、Element Plus 控制台
backend/app/api/v1/ 平台 REST API
backend/app/core/ 配置、认证、权限和日志
backend/app/db/ PostgreSQL 访问和初始化 SQL
backend/app/modules/ 系统、资源、审批、数据处理和存储模块
backend/app/workers/ 节点轮询、任务对账和资源同步
compute/ Compute API、Agent、GPU 和训练引擎
docker/ 应用、MinIO、算力服务部署文件
docs/ 架构、权限、部署和测试文档

端口

服务 主机端口 容器端口
Frontend 16801 80
Backend API 17861 8000
Redis 16379 6379
MinIO API/Console 19000/19001 9000/9001
Compute API/File Gateway 19100/19101 9100

启动

cd frontend && npm ci && npm run build && cd ..
docker build -f docker/app/Dockerfile.backend -t yg-ft-backend-api:latest .
docker build -f docker/app/Dockerfile.frontend -t yg-ft-frontend-runtime:latest .
docker build -f docker/compute/Dockerfile.compute -t yg-ft-compute-api:latest .
cd docker/minio && docker compose up -d
cd ../app && docker compose up -d
cd ../compute && docker compose up -d

权限与性能

系统使用角色权限、资源 ACL、用户/项目/租户归属联合校验;删除为软删除,关键操作写入审计。模型合并前准备 base model 和 adapter结果归档 MinIO推理前按选择节点准备缓存。远程 PostgreSQL 延迟会影响全量列表和看板,页面慢时应检查浏览器 Network、Nginx、Backend 日志、连接池和节点可达性。

详细部署见 docker/README.md,测试见 测试用例.md,本次快照见 docs/20260812/

Description
远光微调平台
Readme 169 MiB
Languages
Vue 57.7%
TypeScript 18.7%
JavaScript 13.1%
Python 9.5%
SCSS 0.9%