🚀 最新进展
2025-12-14我们正式推出了首个面向真实物理世界的统一全模态评测基准——FysicsWorld。该基准不仅能够评测模型在图像、视频、音频与文本间进行双向输入与输出的能力，还覆盖对真实物理世界场景的感知、理解、生成以及跨模态推理等核心能力。
🎯 FysicsWorld 概述
我们正式推出了 FysicsWorld，这是首个支持图像、视频、音频与文本之间双向输入–输出的统一全模态基准，能够对真实物理世界的感知、理解、生成与推理等能力进行全面的 any-to-any 评测。该基准采用系统化的设计范式，任务覆盖从基础单模态感知到跨模态信息强耦合下的复杂推理过程，从而全面探索了当前多模态与全模态（omni-modal）架构的局限性与新兴优势。相较于现有的全模态与多模态基准，FysicsWorld 具备以下优势：
- 高质量 & 高度多样性： FysicsWorld 以 8 个“多”维特性为核心特征，全面体现了其覆盖范围的广泛性、多样性与鲁棒性，具体包括：
- 多维度（理解、生成、推理与语音交互）
- 多模态（文本、图像、视频与音频的全模态I/O）
- 多任务（16 项主要任务、200 余项子任务）
- 多数据源（共 3,268 个样本，涵盖 40 余个数据源及人工筛选的网络数据）
- 多领域（170 余个细粒度的开放领域类别）
- 多类型（封闭式问答、开放式问答、多项选择题以及图像/视频/音频生成）
- 多目标（评测对象涵盖全模态模型、通用多模态模型、特定模态的专用模型、以及统一理解生成模型）
- 多重保障（多阶段质量控制策略）
- 跨模态融合依赖的推理： 我们提出了一种全模态数据构建方法，称为 “跨模态互补性筛选策略” （Cross-Modal Complementarity Screening，CMCS）。该策略确保任务中保持跨模态强耦合关系，有效避免模型通过单一模态走捷径，从而强制实现真正的全模态融合的协同感知。
- 语音驱动的跨模态交互： 为支持真实物理世界场景中跨模态交流与人机交互，我们构建了一套以语音为核心锚点的多模态数据生成流水线，在语音交互场景中同时保证语言流畅性与语义保真度，并涵盖 10 余种真实语音与语调。
基于 FysicsWorld，我们对多种最先进模型进行了系统而全面的评测，包括全模态模型、通用多模态模型、特定模态的专用模型、以及统一理解生成模型，建立了统一的评测基线并揭示关键能力缺口，不仅为多模态模态架构的性能评估奠定了坚实基础，也为下一代新兴全模态架构实现真正的跨模态感知-理解-推理-生成指明了前进方向。
🔍 数据下载
完整数据集和相应的多媒体文件（图像、视频、音频）：
🔮 基准评测
为确保评测协议的公平性与标准化，第一阶段我们公开发布完整的 FysicsWorld 数据集，以及一个包含正确答案的 test-mini 子集（300 个样本），用于本地验证与调试。相应的问答数据分别位于 ./data 与 ./test-mini中。
🕹️ 使用指南:
- 下载完整的 Fysics 数据集。
- 按需选用 Fysics 中感兴趣的目标任务用于评测你的本地模型。
- 遵循评测指南，将模型输出内容格式化为：参考格式.
- 将待测评结果发送至 dicken@fyscis.ai，我们会尽快给您反馈并在排行榜上更新您的成绩。
📈 评测结果
- 全模态/视觉语言大模型在图像为中心任务上的性能对比
任务 ID: Task1-1 (图像理解), Task2-1 (语音驱动的图像理解), Task2-2 (图像-音频跨模态推理), Task2-3 (基于语音的图像内容问答), Task2-4 (基于图像人物角色的语音生成), and Task2-5 (基于图像内容的音频匹配)。
- 全模态/视觉语言大模型在视频为中心任务上的性能对比
任务 ID: Task1-2 (视频理解), Task3-1 (语音驱动的视频理解), Task3-2 (视频-音频跨模态推理), Task3-3 (基于语音的图像内容问答), Task3-4 (基于图像人物角色的语音生成), Task3-5 (基于图像内容的音频匹配), and Task3-6 (基于视频动作序列和当前状态的后续行为预测)。
- 开源多模态大模型在部分模态支持的任务上的性能对比
任务 ID: Task1-1 (图像理解), Task1-2 (视频理解), and Task3-6 (基于视频动作序列和当前状态的后续行为预测)。
- 不同模型在 (a)音频推理和 (b)视频生成任务上的性能对比
📖 引用
如果 FysicsWorld 对你的研究有所帮助，欢迎引用我们的工作。感谢支持！
@article{jiang2025fysicsworld,
title={FysicsWorld: A Unified Full-Modality Benchmark for Any-to-Any Understanding, Generation, and Reasoning},
author={Jiang, Yue and Yang, Dingkang and Han, Minghao and Han, Jinghang and Chen, Zizhi and Liu, Yizhou and Li, Mingcheng and Zhai, Peng and Zhang, Lihua},
journal={arXiv preprint arXiv:2512.12756},
year={2025}
}