---
language:
- en
- zh
license: other
license_name: s2-mas-controlled-research-v1.2
license_link: https://huggingface.co/ya9919/fin-laya-multilingual-mlx/blob/main/LICENSE
tags:
- s2-mas
- financial-one-shot
- decision-model
---

# FinL-bilingual-mlx · MLX CUDA FP16

## 模型命名与实验标签

**FinL-bilingual-mlx** 是初始监督双语 checkpoint **FinL-bilingual** 的 MLX FP16 格式。论文的 A100 单请求速度协议及相对 Jev 的 22.72 倍共享输入 token 吞吐量结果属于这组双语 checkpoint。英语基座完整六轮主要 MLX 运行版本为 [FinL-mlx](https://huggingface.co/ya9919/FinL-mlx)。

## 项目背景

S²-MAS 是面向社会规模的多智能体仿真框架，用于研究异质家庭在条件变化下的决策如何汇总为人口层面的结果。它将**5 亿条构造家庭 persona 资源**、可复用场景、可训练决策模型与持续更新的世界状态连接起来。FinL-bilingual 在其中提供可复用的决策策略：根据家庭状态、问题和完整候选选项进行评分，使同一决策接口能够服务不同任务。

论文中的配对条件应用实际评估了 **1,200 万个独立合成家庭 agent、共 2,400 万次选择**；24 个月扩展则跟踪 10,000 户家庭在收入、必要支出与银行 offer 变化下的状态。应用结果说明家庭资源如何改变消费响应：持续降收消耗现金储备并推迟购置，持续增收则同时支持现金储备与购置；偿付反馈进一步影响后续 offer，从而将个体选择接到消费、现金与支付的时间路径。

## 本仓库的模型角色与训练

本仓库是**双语 FinL-bilingual 的 MLX FP16 运行版本**，与[原生 checkpoint](https://huggingface.co/ya9919/fin-laya-multilingual)配套。模型约 322M 参数，在多语 Laya 的 mmBERT encoder 与选项评分 head 基础上，以 real-survey data 的**每语言 1,721,623 条训练观测**完成两次 SFT 和一次原生 RLCD，支持英语和中文输入。原生包与 MLX 包是同一双语训练 checkpoint 的运行格式。

## 本版本的论文结果

| 测试口径 | 输入语言 | Backend / 精度 | QA 分母 | 问题版本 | Accuracy | Question-macro F1 |
|---|---|---|---:|---:|---:|---:|
| 配套原生 checkpoint 参照 | 中文 | PyTorch BF16 | 240,458 | 119 | 74.52% | 37.99% |

Accuracy 对 QA 记录等权计分；question-macro F1 先在每个问题版本内平均完整候选类别的 F1，再对问题版本等权平均。

本表为配套训练 checkpoint 的原生 PyTorch BF16 参照；MLX FP16 的单请求部署计时见下节。 Figure 5 按两位小数报告中文共享测试：相对多语基座，accuracy 提高 21.61 个百分点，F1 提高 10.60 个百分点。

## 部署速度

本双语 checkpoint 于 **2026 年 10 月 11 日**完成部署测试，使用一张 **NVIDIA A100 PCIe 40GB**，本地模型为 **FP16**，batch size 与并发均为 **1**。三个固定中文金融选择案例各进行 3 次 warm-up 与 20 次计时，共 60 次计时调用。

| 同一双语 checkpoint 的部署方式 / 参照 | 平均延迟 (ms) | Choices/s | 共享输入 tokens/s |
|---|---:|---:|---:|
| FinL-bilingual · PyTorch FP16 | 22.06 | 45.33 | 15,247.34 |
| FinL-bilingual-mlx · MLX CUDA FP16 | 9.10 | 109.88 | 36,955.47 |
| Jev 1.13 · API | 206.77 | 4.84 | 1,626.63 |

MLX 的**共享输入 token 吞吐量**为 Jev API 的 **22.72 倍**，为同一 checkpoint PyTorch 的 **2.42 倍**。计时包含输入准备、tokenization、同步预测与响应格式化，模型加载不计入；Jev 包含网络往返。共享输入 token 使用相同序列化请求的 mmBERT tokenizer 计数。Jev 的服务端硬件与精度由服务方管理。协议与结果见 Methods M9、Table S5。

## 推理

模型约 322M 参数。运行环境：Laya-MLX / MLX CUDA，FP16 部署。使用 `predict_example.py`、`example_request.json` 和调用者自备的状态及完整选项进行推理。示例是独立合成输入。

配套格式：[原生格式](https://huggingface.co/ya9919/fin-laya-multilingual)。

## 论文与许可

研究方法与结果见 [S²-MAS manuscript](https://github.com/KataDavidXD/s2-mas/blob/main/paper/S2_MAS_Paper.pdf)。

项目模型贡献适用 [LICENSE](LICENSE)，其中保留原始 Apache-2.0 附录与独立权利。公开项目提供科学制图、决策模型训练与评测，以及独立合成配套数据生成脚本；GENESE／MAS 引擎实现保持私有。

[项目入口](https://github.com/KataDavidXD/s2-mas)