README_zh.md

<!-- ---
license: MIT License
tags:
  - physics
  - understanding
  - generation
  - reasoning
  - multimodal
language:  
- en
--- -->
<p align="center" width="100%">
<a target="_blank"><img src="figs/FysicsWorld-logo.png" alt="" style="width: 50%; min-width: 200px; display: block; margin: auto;"></a>
</p>



<div align="center">
<br>
<h1>FysicsWorld: 统一的全模态理解、生成与推理评测基准</h1>


<font size=3><div align='center' > 
[[🏠 主页](https://github.com/Fysics-AI/FysicsWorld)] 
[[📖 论文](https://arxiv.org/pdf/2512.12756)] 
[[🤗 数据集](https://huggingface.co/datasets/Fysics-AI/FysicsWorld)] 
[[👾 数据集 (魔搭)](https://www.modelscope.cn/datasets/Fysics-AI/FysicsWorld)] 
[[🏆 排行榜](https://huggingface.co/spaces/Fysics-AI/FysicsWorld-Leaderboard)]
  </div></font>

</div>

##  🚀  最新进展
- **`2025-12-14`** 我们正式推出了首个面向真实物理世界的统一全模态评测基准——[***FysicsWorld***](https://huggingface.co/datasets/Fysics-AI/FysicsWorld)。该基准不仅能够评测模型在图像、视频、音频与文本间进行双向输入与输出的能力，还覆盖对真实物理世界场景的感知、理解、生成以及跨模态推理等核心能力。



## 🎯 ***FysicsWorld*** 概述
<img src="figs/fig-teaser.jpg" width="100%" height="100%">

我们正式推出了 ***FysicsWorld***，这是首个支持图像、视频、音频与文本之间双向输入–输出的统一全模态基准，能够对真实物理世界的感知、理解、生成与推理等能力进行全面的 any-to-any 评测。该基准采用系统化的设计范式，任务覆盖从基础单模态感知到跨模态信息强耦合下的复杂推理过程，从而全面探索了当前多模态与全模态（omni-modal）架构的局限性与新兴优势。相较于现有的全模态与多模态基准，***FysicsWorld*** 具备以下优势：

 - **高质量 & 高度多样性：** ***FysicsWorld*** 以 8 个“多”维特性为核心特征，全面体现了其覆盖范围的广泛性、多样性与鲁棒性，具体包括：
    - 多维度（理解、生成、推理与语音交互）
    - 多模态（文本、图像、视频与音频的全模态I/O）
    - 多任务（16 项主要任务、200 余项子任务）
    - 多数据源（共 3,268 个样本，涵盖 40 余个数据源及人工筛选的网络数据）
    - 多领域（170 余个细粒度的开放领域类别）
    - 多类型（封闭式问答、开放式问答、多项选择题以及图像/视频/音频生成）
    - 多目标（评测对象涵盖全模态模型、通用多模态模型、特定模态的专用模型、以及统一理解生成模型）
    - 多重保障（多阶段质量控制策略）
- **跨模态融合依赖的推理：** 我们提出了一种全模态数据构建方法，称为 **“跨模态互补性筛选策略”** （Cross-Modal Complementarity Screening，CMCS）。该策略确保任务中保持跨模态强耦合关系，有效避免模型通过单一模态走捷径，从而强制实现真正的全模态融合的协同感知。
- **语音驱动的跨模态交互：** 为支持真实物理世界场景中跨模态交流与人机交互，我们构建了一套以语音为核心锚点的多模态数据生成流水线，在语音交互场景中同时保证语言流畅性与语义保真度，并涵盖 10 余种真实语音与语调。

基于 ***FysicsWorld***，我们对多种最先进模型进行了系统而全面的评测，包括全模态模型、通用多模态模型、特定模态的专用模型、以及统一理解生成模型，建立了统一的评测基线并揭示关键能力缺口，不仅为多模态模态架构的性能评估奠定了坚实基础，也为下一代新兴全模态架构实现真正的跨模态感知-理解-推理-生成指明了前进方向。


<p align="center">
    <img src="figs/fig-statiscs.jpg" width="100%" height="100%">
</p>

## 🔍 数据下载
完整数据集和相应的多媒体文件（图像、视频、音频）：

- 下载路径 1（🤗 HuggingFace）：[[链接](https://huggingface.co/datasets/Fysics-AI/FysicsWorld)]
- 下载路径 2（🤗 HF-Mirror）：[[链接](https://hf-mirror.com/datasets/Fysics-AI/FysicsWorld)]
- 下载路径 3（👾 ModelScope）：[[链接](https://www.modelscope.cn/datasets/Fysics-AI/FysicsWorld)]



## 🔮 基准评测

为确保评测协议的公平性与标准化，第一阶段我们公开发布完整的 ***FysicsWorld*** 数据集，以及一个包含正确答案的 test-mini 子集（300 个样本），用于本地验证与调试。相应的问答数据分别位于 [./data](https://huggingface.co/datasets/Fysics-AI/FysicsWorld/tree/main/data) 与 [./test-mini](https://huggingface.co/datasets/Fysics-AI/FysicsWorld/tree/main/test-mini)中。

🕹️ **使用指南**:

1. 下载完整的 Fysics 数据集。
2. 按需选用 Fysics 中感兴趣的目标任务用于评测你的本地模型。
3. 遵循[评测指南](https://github.com/Fysics-AI/FysicsWorld/blob/main/eval/submission/EVALUATION.md)，将模型输出内容格式化为：[参考格式](https://github.com/Fysics-AI/FysicsWorld/blob/main/eval/submission/submission_format.json).
4. 将待测评结果发送至 *dicken@fyscis.ai*，我们会尽快给您反馈并在排行榜上更新您的成绩。


## 📈 评测结果
- **全模态/视觉语言大模型在图像为中心任务上的性能对比**

<p align="center">
    <img src="figs/tab-image.png" width="90%" height="100%">
</p>

*任务 ID:*
Task1-1 (图像理解), Task2-1 (语音驱动的图像理解), Task2-2 (图像-音频跨模态推理), Task2-3 (基于语音的图像内容问答), Task2-4 (基于图像人物角色的语音生成), and Task2-5 (基于图像内容的音频匹配)。

- **全模态/视觉语言大模型在视频为中心任务上的性能对比**

<p align="center">
    <img src="figs/tab-video.png" width="90%" height="100%">
</p>

*任务 ID:*
Task1-2 (视频理解), Task3-1 (语音驱动的视频理解), Task3-2 (视频-音频跨模态推理), Task3-3 (基于语音的图像内容问答), Task3-4 (基于图像人物角色的语音生成), Task3-5 (基于图像内容的音频匹配), and Task3-6 (基于视频动作序列和当前状态的后续行为预测)。

- **开源多模态大模型在部分模态支持的任务上的性能对比**

<p align="center">
    <img src="figs/fig-open-mllm.jpg" width="60%" height="100%">
</p>

*任务 ID:*
Task1-1 (图像理解), Task1-2 (视频理解), and Task3-6 (基于视频动作序列和当前状态的后续行为预测)。


- **不同模型在 (a)音频推理和 (b)视频生成任务上的性能对比**

<p align="center">
    <img src="figs/fig-exp-audio-video.jpg" width="90%" height="100%">
</p>


## 📖 引用

如果 ***FysicsWorld*** 对你的研究有所帮助，欢迎引用我们的工作。感谢支持！

```bibtex
@article{jiang2025fysicsworld,
    title={FysicsWorld: A Unified Full-Modality Benchmark for Any-to-Any Understanding, Generation, and Reasoning},
    author={Jiang, Yue and Yang, Dingkang and Han, Minghao and Han, Jinghang and Chen, Zizhi and Liu, Yizhou and Li, Mingcheng and Zhai, Peng and Zhang, Lihua},
    journal={arXiv preprint arXiv:2512.12756},
    year={2025}
}
```