Instructions to use LeeXugar/CodePin-SFT-Qwen3.5-0.8B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use LeeXugar/CodePin-SFT-Qwen3.5-0.8B with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="LeeXugar/CodePin-SFT-Qwen3.5-0.8B")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("LeeXugar/CodePin-SFT-Qwen3.5-0.8B")
model = AutoModelForCausalLM.from_pretrained("LeeXugar/CodePin-SFT-Qwen3.5-0.8B", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use LeeXugar/CodePin-SFT-Qwen3.5-0.8B with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "LeeXugar/CodePin-SFT-Qwen3.5-0.8B"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "LeeXugar/CodePin-SFT-Qwen3.5-0.8B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/LeeXugar/CodePin-SFT-Qwen3.5-0.8B

SGLang

How to use LeeXugar/CodePin-SFT-Qwen3.5-0.8B with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "LeeXugar/CodePin-SFT-Qwen3.5-0.8B" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "LeeXugar/CodePin-SFT-Qwen3.5-0.8B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "LeeXugar/CodePin-SFT-Qwen3.5-0.8B" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "LeeXugar/CodePin-SFT-Qwen3.5-0.8B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use LeeXugar/CodePin-SFT-Qwen3.5-0.8B with Docker Model Runner:
```
docker model run hf.co/LeeXugar/CodePin-SFT-Qwen3.5-0.8B
```

LeeXugar commited on 7 days ago

Commit

994ffc4

verified ·

1 Parent(s): 1cd2d00

Link CodePin collection and add publication report

Browse files

Files changed (3) hide show

README.md +4 -2
training/README.md +1 -1
training/huggingface_publish_report.json +43 -0

README.md CHANGED Viewed

@@ -39,6 +39,8 @@ model-index:
 CodePin 面向大型代码仓库中的**代码定位与仓库搜索**：模型学习以纯文本工具轨迹逐步缩小搜索空间，最终给出与任务相关的文件、类和函数位置。本仓库发布基于 `Qwen/Qwen3.5-0.8B` 的全参数 SFT 权重，以及可复核训练过程的逐步指标、配置、验证报告和论文风格图像。
 > **命名说明**：`0.8B` 表示基座型号。训练框架在 FSDP 导出时将 token embedding 与 LM head 物化为两组独立且均已训练的张量；本仓库保留两者并在配置中明确设置 `tie_word_embeddings=false`。因此实际可加载参数量为 `1,006,672,704`，而不是严格的 0.8B tied-weight 参数计数。这样做忠实保留了本次训练得到的状态，没有覆盖或丢弃任一矩阵。
 ## 模型概要
@@ -243,7 +245,8 @@ V100 是 SM70，许多基于现代 Triton 的 fused cross-entropy 实现只覆
     ├── sft_training_metrics.csv
     ├── sft_training_summary.json
     ├── final_hf_validation.json
-    └── apex_xentropy_sm70_validation.json
 ```
 `sft_training_metrics.csv` 包含完整 710 steps，每行字段包括 loss、gradient norm、padded length、actual tokens、padding efficiency、tokens/s/GPU、step-time breakdown、连续重建 token 计数、重建 LR 和训练阶段。详见 [`training/README.md`](training/README.md)。
@@ -274,4 +277,3 @@ V100 是 SM70，许多基于现代 Triton 的 fused cross-entropy 实现只覆
 ## License
 模型权重继承 Qwen3.5 基座的 [Apache License 2.0](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/LICENSE)。训练过程说明、绘图脚本及 CodePin 项目代码同时受各自仓库中声明的许可证约束。使用者仍需遵守训练数据来源和适用法律要求。

 CodePin 面向大型代码仓库中的**代码定位与仓库搜索**：模型学习以纯文本工具轨迹逐步缩小搜索空间，最终给出与任务相关的文件、类和函数位置。本仓库发布基于 `Qwen/Qwen3.5-0.8B` 的全参数 SFT 权重，以及可复核训练过程的逐步指标、配置、验证报告和论文风格图像。
+**CodePin 归档：** [Hugging Face Collection](https://huggingface.co/collections/LeeXugar/codepin-6a8afa1064d9f83f9fce2982) · [教师 SFT 数据集](https://huggingface.co/datasets/LeeXugar/CodePin-SFT-Qwen3.5-35B-A3B) · [SWE-smith code-search 数据](https://huggingface.co/datasets/LeeXugar/SWE-smith-code-search)
 > **命名说明**：`0.8B` 表示基座型号。训练框架在 FSDP 导出时将 token embedding 与 LM head 物化为两组独立且均已训练的张量；本仓库保留两者并在配置中明确设置 `tie_word_embeddings=false`。因此实际可加载参数量为 `1,006,672,704`，而不是严格的 0.8B tied-weight 参数计数。这样做忠实保留了本次训练得到的状态，没有覆盖或丢弃任一矩阵。
 ## 模型概要
     ├── sft_training_metrics.csv
     ├── sft_training_summary.json
     ├── final_hf_validation.json
+    ├── apex_xentropy_sm70_validation.json
+    └── huggingface_publish_report.json
 ```
 `sft_training_metrics.csv` 包含完整 710 steps，每行字段包括 loss、gradient norm、padded length、actual tokens、padding efficiency、tokens/s/GPU、step-time breakdown、连续重建 token 计数、重建 LR 和训练阶段。详见 [`training/README.md`](training/README.md)。
 ## License
 模型权重继承 Qwen3.5 基座的 [Apache License 2.0](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/LICENSE)。训练过程说明、绘图脚本及 CodePin 项目代码同时受各自仓库中声明的许可证约束。使用者仍需遵守训练数据来源和适用法律要求。

training/README.md CHANGED Viewed

@@ -10,6 +10,7 @@
 - `sft_training_summary.json`：聚合统计、关键 batch 与证据边界。
 - `final_hf_validation.json`：最终 HF 权重加载、参数完整性与生成验证。
 - `apex_xentropy_sm70_validation.json`：独立 SM70 fused CE 候选的构建和数值验证摘要。
 ## CSV 字段
@@ -37,4 +38,3 @@
 - 失败重试中重复出现的 step 不进入 CSV；
 - 原 trainer 的 token counter 在 resume 时清零，因此完整 token 总量由逐步 `actual_tokens` 求和重建；
 - 原日志没有逐步 LR、GPU memory 或 utilization，缺失指标不会被推断或伪造。

 - `sft_training_summary.json`：聚合统计、关键 batch 与证据边界。
 - `final_hf_validation.json`：最终 HF 权重加载、参数完整性与生成验证。
 - `apex_xentropy_sm70_validation.json`：独立 SM70 fused CE 候选的构建和数值验证摘要。
+- `huggingface_publish_report.json`：Hub revision、各阶段提交和已发布文件清单。
 ## CSV 字段
 - 失败重试中重复出现的 step 不进入 CSV；
 - 原 trainer 的 token counter 在 resume 时清零，因此完整 token 总量由逐步 `actual_tokens` 求和重建；
 - 原日志没有逐步 LR、GPU memory 或 utilization，缺失指标不会被推断或伪造。

training/huggingface_publish_report.json ADDED Viewed

	@@ -0,0 +1,43 @@

+{
+  "status": "PASS",
+  "repo_id": "LeeXugar/CodePin-SFT-Qwen3.5-0.8B",
+  "repo_url": "https://huggingface.co/LeeXugar/CodePin-SFT-Qwen3.5-0.8B",
+  "collection": "LeeXugar/codepin-6a8afa1064d9f83f9fce2982",
+  "collection_url": "https://huggingface.co/collections/LeeXugar/codepin-6a8afa1064d9f83f9fce2982",
+  "identity": "LeeXugar",
+  "private": false,
+  "pipeline_tag": "text-generation",
+  "revision": "1cd2d00a47373310c822ec597883cbbcaa90d5c3",
+  "published_files": [
+    ".gitattributes",
+    "LICENSE",
+    "README.md",
+    "assets/fig_sft_length_efficiency.pdf",
+    "assets/fig_sft_length_efficiency.png",
+    "assets/fig_sft_training_dynamics.pdf",
+    "assets/fig_sft_training_dynamics.png",
+    "chat_template.jinja",
+    "config.json",
+    "generation_config.json",
+    "model.safetensors",
+    "scripts/gen_fig_sft_training_dynamics.py",
+    "tokenizer.json",
+    "tokenizer_config.json",
+    "training/README.md",
+    "training/apex_xentropy_sm70_validation.json",
+    "training/data_filter_summary.json",
+    "training/final_hf_validation.json",
+    "training/sft_training_metrics.csv",
+    "training/sft_training_summary.json",
+    "training/training_config.json"
+  ],
+  "model_safetensors_bytes": 4026732464,
+  "model_safetensors_sha256_local_preupload": "d97009d9e41838a2eb8ce0e6275ac41cf80f1186915628f31662d3ba0b67e48e",
+  "commits": {
+    "metadata": "93fc4c9d8ee340a452f17e6deee287f57ae58246",
+    "license": "e8d2d7014247df1740164cd2f8d7e1176cdfab22",
+    "model_config": "8cc0a995eac1f696b31696e17e053a6d1653883b",
+    "weight": "1cd2d00a47373310c822ec597883cbbcaa90d5c3"
+  },
+  "verified_at_unix": 1787581361.614298
+}