Label FinL bilingual MLX timing separately from the main policy

368e775 verified 3 days ago

4.59 kB

language:
  - en
  - zh
license: other
license_name: s2-mas-controlled-research-v1.2
license_link: https://huggingface.co/ya9919/fin-laya-multilingual-mlx/blob/main/LICENSE
tags:
  - s2-mas
  - financial-one-shot
  - decision-model

FinL-bilingual-mlx · MLX CUDA FP16

模型命名与实验标签

FinL-bilingual-mlx 是初始监督双语 checkpoint FinL-bilingual 的 MLX FP16 格式。论文的 A100 单请求速度协议及相对 Jev 的 22.72 倍共享输入 token 吞吐量结果属于这组双语 checkpoint。英语基座完整六轮主要 MLX 运行版本为 FinL-mlx。

项目背景

S²-MAS 是面向社会规模的多智能体仿真框架，用于研究异质家庭在条件变化下的决策如何汇总为人口层面的结果。它将5 亿条构造家庭 persona 资源、可复用场景、可训练决策模型与持续更新的世界状态连接起来。FinL-bilingual 在其中提供可复用的决策策略：根据家庭状态、问题和完整候选选项进行评分，使同一决策接口能够服务不同任务。

论文中的配对条件应用实际评估了 1,200 万个独立合成家庭 agent、共 2,400 万次选择；24 个月扩展则跟踪 10,000 户家庭在收入、必要支出与银行 offer 变化下的状态。应用结果说明家庭资源如何改变消费响应：持续降收消耗现金储备并推迟购置，持续增收则同时支持现金储备与购置；偿付反馈进一步影响后续 offer，从而将个体选择接到消费、现金与支付的时间路径。

本仓库的模型角色与训练

本仓库是双语 FinL-bilingual 的 MLX FP16 运行版本，与原生 checkpoint配套。模型约 322M 参数，在多语 Laya 的 mmBERT encoder 与选项评分 head 基础上，以 real-survey data 的每语言 1,721,623 条训练观测完成两次 SFT 和一次原生 RLCD，支持英语和中文输入。原生包与 MLX 包是同一双语训练 checkpoint 的运行格式。

本版本的论文结果

测试口径	输入语言	Backend / 精度	QA 分母	问题版本	Accuracy	Question-macro F1
配套原生 checkpoint 参照	中文	PyTorch BF16	240,458	119	74.52%	37.99%

Accuracy 对 QA 记录等权计分；question-macro F1 先在每个问题版本内平均完整候选类别的 F1，再对问题版本等权平均。

本表为配套训练 checkpoint 的原生 PyTorch BF16 参照；MLX FP16 的单请求部署计时见下节。 Figure 5 按两位小数报告中文共享测试：相对多语基座，accuracy 提高 21.61 个百分点，F1 提高 10.60 个百分点。

部署速度

本双语 checkpoint 于 2026 年 10 月 11 日完成部署测试，使用一张 NVIDIA A100 PCIe 40GB，本地模型为 FP16，batch size 与并发均为 1。三个固定中文金融选择案例各进行 3 次 warm-up 与 20 次计时，共 60 次计时调用。

同一双语 checkpoint 的部署方式 / 参照	平均延迟 (ms)	Choices/s	共享输入 tokens/s
FinL-bilingual · PyTorch FP16	22.06	45.33	15,247.34
FinL-bilingual-mlx · MLX CUDA FP16	9.10	109.88	36,955.47
Jev 1.13 · API	206.77	4.84	1,626.63

MLX 的共享输入 token 吞吐量为 Jev API 的 22.72 倍，为同一 checkpoint PyTorch 的 2.42 倍。计时包含输入准备、tokenization、同步预测与响应格式化，模型加载不计入；Jev 包含网络往返。共享输入 token 使用相同序列化请求的 mmBERT tokenizer 计数。Jev 的服务端硬件与精度由服务方管理。协议与结果见 Methods M9、Table S5。

推理

模型约 322M 参数。运行环境：Laya-MLX / MLX CUDA，FP16 部署。使用 predict_example.py、example_request.json 和调用者自备的状态及完整选项进行推理。示例是独立合成输入。

配套格式：原生格式。

论文与许可

研究方法与结果见 S²-MAS manuscript。

项目模型贡献适用 LICENSE，其中保留原始 Apache-2.0 附录与独立权利。公开项目提供科学制图、决策模型训练与评测，以及独立合成配套数据生成脚本；GENESE／MAS 引擎实现保持私有。

项目入口