|
|
--- |
|
|
configs: |
|
|
- config_name: benchmark |
|
|
data_files: |
|
|
- split: test |
|
|
path: vision_language/FCMBench_v1.0_testset_full.jsonl |
|
|
license: apache-2.0 |
|
|
task_categories: |
|
|
- table-question-answering |
|
|
- text-classification |
|
|
pretty_name: FCMBench |
|
|
size_categories: |
|
|
- 10K<n<100K |
|
|
--- |
|
|
|
|
|
 |
|
|
|
|
|
[English Version](./README.md) |
|
|
|
|
|
**FCMBench** 是一个面向信贷风控工作流的多模态基准测试（benchmark）。它旨在提供一个标准化的“试验场”，促进学术界与产业界的协同开发，并在多个赛道（图像、视频、语音、智能体等）上提供标准化的数据集、提示词（prompts）与评测脚本。 |
|
|
|
|
|
## 🔥 新闻 |
|
|
- 【**2026. 01. 01**】✨ 我们很高兴发布 [**FCMBench-V1.0**](https://github.com/QFIN-tech/FCMBench/tree/main/vision_language)，该版本覆盖 18 类核心证件类型，包含 4,043 张符合隐私合规要求的图像与 8,446 条问答样本。其任务体系涵盖 3 类感知（Perception）任务与 4 类推理（Reasoning）任务，并与 10 类健壮性推理（robustness inferences）交叉引用。所有任务与推理过程均来源于真实世界的关键业务场景。 |
|
|
|
|
|
> **状态：** 公开发布（v1.0）。 |
|
|
> **维护者：** [奇富科技 / Qfin Holdings](https://github.com/QFIN-tech) |
|
|
> **联系方式：** [yangyehui-jk@qifu.com] |
|
|
|
|
|
## 赛道概览 |
|
|
|
|
|
### 1) 视觉-语言赛道（✅ 已开放，**FCMBench-V1.0**） |
|
|
|
|
|
基于图像的金融文档理解： |
|
|
|
|
|
- **入口：** [视觉-语言赛道](vision_language) |
|
|
- **输入：** 文档图像 + 文本提示词（JSONL，每行一个样本） |
|
|
- **输出：** 文本响应（JSONL，每行一个样本） |
|
|
- **评测：** [评测脚本](vision_language/evaluation.py) |
|
|
|
|
|
#### 论文与项目链接 |
|
|
- [**技术报告（arXiv）**](https://arxiv.org/abs/2601.00150) |
|
|
- [**技术报告（PDF）**](https://arxiv.org/pdf/2601.00150) |
|
|
- [**项目主页**](https://github.com/QFIN-tech/FCMBench/tree/main/vision_language) |
|
|
- [**排行榜**](vision_language/LEADERBOARD.md) |
|
|
- [**数据集（ModelScope）**](https://modelscope.cn/datasets/QFIN/FCMBench-V1.0) |
|
|
- [**数据集（Hugging Face）**](https://huggingface.co/datasets/QFIN/FCMBench-V1.0) |
|
|
|
|
|
#### 参考模型 Demo |
|
|
我们也提供 Qfin-VL-Instruct 模型的交互式演示（demo）访问，该模型在 FCMBench-V1.0 上表现强劲。 |
|
|
如果你希望试用 Gradio demo，请将以下信息发送至 [yangyehui-jk@qifu.com]： |
|
|
- 姓名 |
|
|
- 所属单位 / 组织 |
|
|
- 使用目的（例如：研究探索、评测基线参考） |
|
|
- 联系邮箱 |
|
|
|
|
|
我们将按具体情况逐一审批并开通访问权限。 |
|
|
|
|
|
### 2) 视频理解赛道（🕒 即将推出） |
|
|
|
|
|
### 3) 语音理解与生成赛道（🕒 即将推出） |
|
|
|
|
|
### 4) 多步推理 / 智能体赛道（🕒 即将推出） |
|
|
|
|
|
## 引用 |
|
|
``` |
|
|
@misc{yang2026fcmbenchcomprehensivefinancialcredit, |
|
|
title={FCMBench: A Comprehensive Financial Credit Multimodal Benchmark for Real-world Applications}, |
|
|
author={Yehui Yang and Dalu Yang and Wenshuo Zhou and Fangxin Shang and Yifan Liu and Jie Ren and Haojun Fei and Qing Yang and Yanwu Xu and Tao Chen}, |
|
|
year={2026}, |
|
|
eprint={2601.00150}, |
|
|
archivePrefix={arXiv}, |
|
|
primaryClass={cs.CV}, |
|
|
url={https://arxiv.org/abs/2601.00150}, |
|
|
} |
|
|
``` |
