sharp-421m-3rounds / Model_Card_ZH.md
ya9919's picture
Align the three-round comparator with FinL naming
1e2097c verified
|
Raw History Blame Contribute Delete
3.83 kB
metadata
language:
  - en
license: other
license_name: s2-mas-controlled-research-v1.2
license_link: https://huggingface.co/ya9919/fin-laya-3-rounds/blob/main/LICENSE
base_model: convaiinnovations/laya
base_model_relation: finetune
tags:
  - s2-mas
  - financial-one-shot
  - decision-model

FinL · three-round comparator (native PyTorch)

模型命名与实验标签

本仓库为 FinL 三轮比较版本,采用原生 Laya/PyTorch 格式。主要模型 FinL 指向完整六轮 checkpoint。对应的早期 MLX 格式仍位于 fin-laya-mlx-3-rounds。

项目背景

S²-MAS 是面向社会规模的多智能体仿真框架,用于研究异质家庭在条件变化下的决策如何汇总为人口层面的结果。它将5 亿条构造家庭 persona 资源、可复用场景、可训练决策模型与持续更新的世界状态连接起来。FinL 在其中提供可复用的决策策略:根据家庭状态、问题和完整候选选项进行评分,使同一决策接口能够服务不同任务。

论文中的配对条件应用实际评估了 1,200 万个独立合成家庭 agent、共 2,400 万次选择;24 个月扩展则跟踪 10,000 户家庭在收入、必要支出与银行 offer 变化下的状态。应用结果说明家庭资源如何改变消费响应:持续降收消耗现金储备并推迟购置,持续增收则同时支持现金储备与购置;偿付反馈进一步影响后续 offer,从而将个体选择接到消费、现金与支付的时间路径。

本仓库的模型角色与训练

本仓库提供原生 FinL 3-round 金融 checkpoint,约 421M 参数,采用 Laya 的 ModernBERT-large encoder 与选项评分 head。模型以 real-survey data 为监督,依次经过两次 SFT 和一次原生 RLCD,使用每语言 1,721,623 条训练观测。MLX 运行版本将同一训练 checkpoint 用于 FP16 部署;6-round continuation进一步扩展监督任务覆盖。

本版本的论文结果

测试口径 输入语言 Backend / 精度 QA 分母 问题版本 Accuracy Question-macro F1
共享金融问题 英语 PyTorch BF16 240,458 119 74.5336% 38.0164%
扩展测试 英语 PyTorch BF16 418,597 862 56.3657% 19.2395%

Accuracy 对 QA 记录等权计分;question-macro F1 先在每个问题版本内平均完整候选类别的 F1,再对问题版本等权平均。

在同一共享测试上,原始 Laya 的原生 BF16 accuracy 为 60.2080%、F1 为 29.5574%;3-round 金融训练提升至上表结果。证据见 Figure 5、Methods M4 与 M6。

部署速度

论文的单请求速度测量使用FinL-bilingual checkpoint,条件为一张 NVIDIA A100 PCIe 40GB、FP16、batch size 与并发均为 1、三个固定中文案例。对应延迟、吞吐量与 Jev 比较见该版本卡片及 Methods M9。

模型文件与推理

本仓库包含模型权重、tokenizer和必要推理配置。原生 Laya / PyTorch 推理使用 BF16。 predict_example.py 使用独立合成的示例输入。

许可与论文

项目模型贡献适用受限科研许可v1.2。完整许可及保留的上游Apache-2.0权利见LICENSE。训练与评估记录不随模型发布。

S²-MAS论文 · 项目

公开项目提供科学制图、决策模型训练与评测,以及独立合成配套数据生成脚本;GENESE/MAS 引擎实现保持私有。