| # PaddleOCR-VL-1.6：crop / fullpage 基座评测 |
|
|
| 基座权重 `/autodl-fs/data/PaddleOCR-VL-1.6`；自定义模型用完整 merged 权重目录替换。两个任务分别报告，不合并计算指标。以下命令供当前工程环境运行；上传的入口脚本是审阅快照，依赖当前工程其他模块、评分库和本地模型，不能仅下载单文件就独立运行。 |
|
|
| ## 统一入口（推荐） |
|
|
| `evaluation_scripts/evaluate_checkpoint.py`将两类评测放在一个入口中，默认先crop再fullpage，分别切换正确的Python环境，并把两类汇总写进一个`results.json`。仍分别使用项目canonical评分和官方整页评分。 |
|
|
| ```bash |
| python /autodl-fs/data/povl_v5/experiments/curriculum_20261030/evaluate_checkpoint.py \ |
| --model /autodl-fs/data/PaddleOCR-VL-1.6 --tag unified_base --track both |
| ``` |
|
|
| `--track crop`或`--track fullpage`只运行对应类型；`--dry-run`只检查命令，不写文件、不启动GPU。自定义ckpt替换`--model`并使用新的`--tag`。汇总：`/autodl-tmp/table_evaluation/<tag>/results.json`；运行日志在同目录的`crop.log`和`fullpage.log`。GPU繁忙时crop会退出，不中断现有训练；稍后使用相同命令继续。 |
|
|
| ## 当前完成情况 |
|
|
| - fullpage：2864页、4037个GT表格，已完成。OmniDocBench1.5/1.6、Real5五种退化、CC-OCR全部四个已发布表格识别子任务共300张。 |
| - crop：原184074条有历史基座结果；当前176810条/64shards有5384条GT修补，旧结果没有GT哈希。因此JSON在historical_evaluation保留历史分数，当前teds/teds_s为null，直到新版本正式结果完成。不能把历史覆盖数写成当前GT评测完成数。 |
| - 导出JSON不会重新推理，也不会启动/中断训练。新干净SFT控制器已安排SFT完成后评测当前crop基座。 |
|
|
| ## Crop入口 |
|
|
| 实际脚本 `/autodl-fs/data/povl_v5/src/eval_mix.py`；直接识别表格crop，项目canonical TEDS评分，空文本GT只算TEDS-S。输出在 `povl_v5/eval/runs/<tag>/scores.jsonl` 和 `summary.json`。 |
|
|
| ```bash |
| cd /autodl-fs/data/povl_v5 |
| env -u POVL_RUN_DIR \ |
| PYTHONPATH=/root/autodl-tmp/vllm_local/site-packages:/root/autodl-tmp/venv_train/lib/python3.12/site-packages:/autodl-fs/data/vllm_env/lib/python3.12/site-packages \ |
| POVL_VLLM=/root/autodl-tmp/vllm_local/bin/vllm POVL_PARALLEL_ENGINE_BOOT=1 \ |
| TOKENIZERS_PARALLELISM=false OMP_NUM_THREADS=4 MKL_NUM_THREADS=4 \ |
| /root/autodl-tmp/venv_train/bin/python src/eval_mix.py \ |
| --model /autodl-fs/data/PaddleOCR-VL-1.6 --tag base_current_crop_manual \ |
| --packs /autodl-tmp/official_table_pages_20261031/hf_sync/canonical_rebalanced \ |
| --gpus 0 1 2 3 --per-gpu 3 --conc-per-worker 16 \ |
| --score-workers 12 --score-batch 64 --max-tokens 16384 |
| ``` |
|
|
| ## Fullpage入口 |
|
|
| 实际脚本 `/autodl-fs/data/povl_v5/experiments/curriculum_20261030/whole_page_eval.py`。使用PaddleOCRVL v1.6库解析整页，PP-DocLayoutV3提取多个表格，按官方规则匹配/评分。只读输入图片；Parquet已有预测列不会喂给模型。一图多表保留官方匹配，不按数组位置对齐。 |
|
|
| ```bash |
| env -u PYTHONPATH -u POVL_RUN_DIR \ |
| /root/autodl-tmp/venv_paddleocrvl_eval/bin/python \ |
| /autodl-fs/data/povl_v5/experiments/curriculum_20261030/whole_page_eval.py \ |
| --model /autodl-fs/data/PaddleOCR-VL-1.6 --tag original_base |
| ``` |
|
|
| `original_base`复用已完成的基座结果；新模型必须使用新的tag，不能混用缓存。输出根目录 `/autodl-tmp/official_table_pages_20261031/<tag>/`，官方汇总为`SUMMARY.json`。 |
|
|
| 两类均4卡×每卡3个vLLM实例，共12实例；GPU推理与CPU评分并行。当前GPU正在训练，避免同时手动启动这些GPU命令。 |
|
|
| ## 环境 |
|
|
| Python/packages详情见同目录`ENVIRONMENTS_AND_CONFIGS.md`，完整包清单见`environments/`。该MD是此前环境配置快照；本文件补充当前评测范围和状态。 |
| Crop客户端Python3.12.3，Transformers5.19.0；vLLM0.32.0、PyTorch2.13.0+cu130。 |
| 整页库Python3.12.3、PaddleOCR3.7、PaddleX3.7.2、PaddleGPU3.2.1（CUDA12.6）；官方评分独立Python3.10.22环境。 |
|
|
