upwitu/fc_baselines

final_train_data

Dữ liệu SFT cho function calling dành cho fc_baselines, được lọc từ hai bộ dữ liệu huấn luyện trong train_data/ (NVIDIA Nemotron-SFT-Agentic-v2 và Nanbeige ToolMind) và chuyển về định dạng bản ghi trong README của fc_baselines.

Hai biến thể từ cùng một lần lựa chọn được phát hành, mỗi biến thể ứng với một reasoning_mode:

final_train_data/
├── no_reasoning/            # mặc định của configs/*/train_*.yaml
│   ├── train.jsonl              97,315 bản ghi (1.75 GB)
│   └── validation.jsonl          1,979 bản ghi
├── reasoning/               # giữ reasoning_content ở các lượt gọi công cụ
│   ├── train.jsonl              97,203 bản ghi (1.75 GB)
│   └── validation.jsonl          1,999 bản ghi
├── stats.json               # số lượng theo nguồn do build ghi ra
└── README.md

fc_baselines nhận một file .jsonl hoặc một thư mục chỉ chứa các file *.jsonl, nên config có thể trỏ thẳng đến các file này sau khi dataset được tải về hoặc mount. Các khóa cấu hình phải dùng là train_data và eval_data:

train_data: path/to/no_reasoning/train.jsonl
eval_data: path/to/no_reasoning/validation.jsonl
reasoning_mode: no_reasoning     # phải khớp với thư mục đã chọn
cutoff_len: 16384

Mỗi bản ghi là một đối tượng JSON duy nhất, trong đó hội thoại và các công cụ được giữ tách biệt:

{
  "id": "toolmind_graphsyn-000042",
  "messages": [
    {"role": "user", "content": "What's the current time in New York?"},
    {"role": "assistant", "content": "", "tool_calls": [
      {"id": "call_1", "type": "function",
       "function": {"name": "get_current_time", "arguments": {"timezone": "America/New_York"}}}]},
    {"role": "tool", "tool_call_id": "call_1", "content": "{\"time\": \"10:00 AM\"}"},
    {"role": "assistant", "content": "The current time in New York is 10:00 AM."}
  ],
  "tools": [
    {"type": "function", "function": {
      "name": "get_current_time",
      "description": "Get the current time",
      "parameters": {"type": "object",
                     "properties": {"timezone": {"type": "string", "description": "…"}},
                     "required": ["timezone"]}}}
  ],
  "meta": {"source": "toolmind_graphsyn", "score": 5.31, "n_call_turns": 2, "tokens": 481, "…": "…"}
}

id và meta bị bỏ qua khi huấn luyện. meta chứa file nguồn, điểm liên quan, các số liệu hình dạng được dùng để chọn bản ghi và độ dài token chính xác.

Các id được dùng chung giữa hai biến thể. Một bản ghi tồn tại ở cả hai chế độ sẽ có cùng id trong no_reasoning/ và reasoning/, đồng thời các bản ghi giữ lại để đánh giá cũng giống nhau, nên có thể so sánh hai lần chạy theo từng bản ghi.

Nội dung được chọn và lý do

Ba benchmark trong test_data/ — CAR-bench, tau^3-bench và BFCL V4 — kiểm thử hành vi nhiều hơn chủ đề: sử dụng công cụ qua nhiều bước, các lệnh gọi sử dụng kết quả trước đó, lệnh gọi song song, hỏi thay vì đoán, từ chối những việc không công cụ nào thực hiện được và tuân theo chính sách được viết trong một hội thoại dài. Bộ lọc chấm điểm mọi ứng viên đúng theo các đặc tính đó (scripts/score_records.py), cộng thêm một mức nhỏ cho các miền mà benchmark đề cập đến, rồi lấy quota từng nguồn từ trên xuống dưới với giới hạn theo từng nhóm đa dạng, để không một môi trường hay dạng hội thoại nào chiếm hết quota.

Nguồn	Kho dữ liệu	không suy luận	có suy luận	Lý do đưa vào
nemotron_tool_calling	655,686	36,658	47,066	sử dụng công cụ qua nhiều bước trên nhiều bộ công cụ
nemotron_customer_service	278,855	24,000	24,000	hội thoại có chính sách trong system prompt, đúng dạng tau^3
toolmind_graphsyn	155,940	13,983	13,995	đi qua toàn bộ đồ thị công cụ: các lệnh gọi nối tiếp
toolmind_apigen_mt	24,734	6,999	1,438	quỹ đạo nhiều lượt dài với kết quả thực
toolmind_tau_train	10,618	5,000	48	split retail train của tau-bench
toolmind_button	20,919	3,999	4,000	phân rã thành các lệnh gọi tuần tự
toolmind_when2call	17,515	3,500	3,500	khi không nên gọi công cụ và khi nào nên hỏi
toolmind_toolace	7,314	2,500	2,500	các bề mặt API rộng và khác thường
toolmind_glaive	20,010	1,000	1,000	hành vi nền tảng với một lệnh gọi đơn giản
toolmind_xlam	100,868	1,000	1,000	độ bao phủ lệnh gọi song song
nemotron_search	655	655	655	quỹ đạo tìm kiếm web dài
Tổng	1,293,114	99,294	99,202

Thành phần của tập được chọn:

	không suy luận	có suy luận
token (template Qwen3.5)	477M, trung vị 4,456, p95 10,424	446M, trung vị 4,097, p95 10,467
4+ lượt gọi công cụ	41,618 (42%)	23,997 (24%)
2–3 lượt gọi công cụ	39,095 (39%)	31,793 (32%)
1 lượt gọi công cụ	15,949 (16%)	38,442 (39%)
không gọi công cụ (hỏi / từ chối)	2,632 (3%)	4,970 (5%)
một lượt có các lệnh gọi song song	14,275 (14%)	14,185 (14%)

Các miền gần với benchmark đứng đầu (một bản ghi có thể khớp nhiều miền): ngân hàng, đặt vé, bán lẻ, tìm kiếm web, toán, nhắn tin, du lịch, xã hội, bộ nhớ, giao dịch.

Chồng lấn với các benchmark

Quy tắc được áp dụng ở đây là quy tắc đã được yêu cầu: cùng miền với benchmark là được phép, lặp lại một mục kiểm thử thì không.

scripts/testset_index.py lập chỉ mục mọi prompt kiểm thử trong test_data/ — các hướng dẫn *_test.jsonl của CAR-bench (các split *_train không phải mục kiểm thử và không được lập chỉ mục), mọi hướng dẫn user-scenario của tau^3 và mọi lượt người dùng trong dữ liệu BFCL V4 — dưới dạng chuỗi đã chuẩn hóa hoàn chỉnh và các cửa sổ 12 từ. Một ứng viên bị loại khi một lượt người dùng lặp lại toàn bộ prompt kiểm thử hoặc chia sẻ từ hai cửa sổ 12 từ trở lên với prompt đó. Quy tắc này đã loại 418 bản ghi, phần lớn đến từ nemotron_tool_calling (240) và toolmind_xlam (167).

Những gì quy tắc này cố ý không loại bỏ, và cần được nêu rõ khi báo cáo kết quả:

• toolmind_tau_train là split retail train của tau-bench: cùng môi trường, công cụ và chính sách với tau^3 retail nhưng khác task. Có 5.000 bản ghi của split này trong biến thể no_reasoning.
• toolmind_apigen_mt chứa các quỹ đạo APIGen-MT được tạo trong môi trường retail và airline theo phong cách tau-bench.
• nemotron_customer_service gồm 838 miền dịch vụ khách hàng tổng hợp theo dạng tau-bench (chính sách trong system prompt, xác thực → tra cứu → chỉnh sửa).

Vì vậy tau^3 retail và airline là cùng miền với dữ liệu này theo thiết kế. CAR-bench, BFCL Memory và truy xuất kiến thức ngân hàng của tau^3 vẫn thực sự chưa xuất hiện.

Cách tạo dữ liệu

# scan (song song, ~3 phút trên 25 GB) -> select -> build (~10 phút, tokenize mọi bản ghi)
python scripts/prepare_final_train_data.py all --workers 10

# kiểm tra độc lập: validator của fc_baselines cùng phép đo token mới
python scripts/verify_final_train_data.py

Build import trực tiếp fc_baselines.data.convert và fc_baselines.data.validate, nên một bản ghi chỉ xuất hiện trong các file này khi cổng kiểm tra dữ liệu huấn luyện chấp nhận nó. Kiểm tra độc lập chạy lại validator và tokenize lại mọi bản ghi: 0 bản ghi bị từ chối, 0 id trùng, 0 bản ghi vượt cutoff_len, 0 khác biệt với độ dài token được ghi trong meta. Kiểm tra này báo cáo 2.849 cảnh báo mềm argument_type_mismatch trong no_reasoning/train.jsonl — các giá trị đối số có kiểu không khớp schema của công cụ; theo hợp đồng, đây là cảnh báo chứ không phải lỗi, và chúng đến từ các nguồn có khai báo kiểu lỏng. Các nguồn không thống nhất với định dạng theo những cách cơ học được sửa thay vì loại bỏ (ToolMind không có call id và bọc một số định nghĩa công cụ hai lần, Nemotron lưu arguments dưới dạng chuỗi JSON); những thứ có thể thay đổi điều mô hình học được thì không được sửa — hội thoại như vậy bị cắt về tiền tố hợp lệ dài nhất. Xem scripts/normalize_records.py.

Trong 1.360.511 bản ghi nguồn, 1.293.114 bản ghi sống sót sau chuẩn hóa. Các nguyên nhân loại bỏ chính là 48.072 bản ghi dài hơn cutoff_len, 11.178 bản ghi không thể làm cho hợp lệ bằng bất kỳ sửa chữa nào và 7.154 bản ghi gọi một công cụ không có trong danh sách tools của chính chúng.

Hạn chế đã biết

• 477M token mỗi epoch trong no_reasoning. Đây là một lần chạy SFT lớn; nếu cần ngân sách nhỏ hơn, hãy lấy mẫu con theo meta.score (giảm dần).
• Tìm kiếm web còn mỏng: chỉ 655 trong số 5.968 quỹ đạo tìm kiếm của Nemotron vừa với giới hạn 16.384 token. BFCL V4 Web Search sẽ được hỗ trợ yếu, còn BFCL Memory hoàn toàn không được bao phủ — không có nguồn nào ở đây có công cụ bộ nhớ lâu dài.
• Biến thể reasoning thiên về Nemotron hơn. ToolMind chỉ gắn suy luận vào lượt assistant cuối cùng, nhưng reasoning_mode: reasoning yêu cầu suy luận ở mọi lượt gọi công cụ, nên phần lớn bản ghi nhiều lượt của ToolMind không hợp lệ ở đó (toolmind_tau_train: 48 trên 10.618). Phần thiếu được bù từ nemotron_tool_calling, vì vậy nguồn này tăng lên 47.066 và biến thể reasoning có ít hội thoại dài hơn.
• Mục tiêu 100.000 bản ghi cho ra 99.294 / 99.202 vì phép đếm token chính xác, được đo bằng chat template thực sau khi chọn, đã loại lần lượt 706 và 798 bản ghi.