Instructions to use ecloudtech/Erk-32B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use ecloudtech/Erk-32B with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="ecloudtech/Erk-32B")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("ecloudtech/Erk-32B")
model = AutoModelForCausalLM.from_pretrained("ecloudtech/Erk-32B", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use ecloudtech/Erk-32B with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "ecloudtech/Erk-32B"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ecloudtech/Erk-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/ecloudtech/Erk-32B

SGLang

How to use ecloudtech/Erk-32B with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "ecloudtech/Erk-32B" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ecloudtech/Erk-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "ecloudtech/Erk-32B" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ecloudtech/Erk-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use ecloudtech/Erk-32B with Docker Model Runner:
```
docker model run hf.co/ecloudtech/Erk-32B
```

aigencydev commited on 10 days ago

Commit

98763f7

verified ·

1 Parent(s): baf6aaf

Surum 2 karti (main)

Browse files

Files changed (1) hide show

README.md +34 -1

README.md CHANGED Viewed

@@ -23,8 +23,18 @@ model-index:
           type: AYueksel/TurkishMMLU
         metrics:
           - type: accuracy
-            value: 71.01
             name: doğruluk (temiz 652)
 ---
@@ -39,6 +49,29 @@ yeniden üretim betikleri depoda açıktır.
 *English summary at the end.*
 ## Sonuçlar (işletme noktası: LoRA ölçeği 0,75 + sistem istemi, birleşik ağırlık)
 | Ölçüm | Taban Qwen3-32B | **Erk-32B** | Fark | %95 GA |

           type: AYueksel/TurkishMMLU
         metrics:
           - type: accuracy
+            value: 71.47
             name: doğruluk (temiz 652)
+      - task:
+          type: multiple-choice
+          name: TurkMorfBench 3.6 çekirdek
+        dataset:
+          name: TurkMorfBench
+          type: ecloudtech/TurkMorfBench
+        metrics:
+          - type: accuracy
+            value: 76.47
+            name: harf kuralı, çekirdek 1.836
 ---
 *English summary at the end.*
+## Sürüm 2 — 29 Eylül 2026
+`main` dalı artık **Erk-32B v2**'dir; önceki ağırlıklar `v1` etiketinde durur.
+**Ne değişti.** v1'in üzerine FineWeb-2 Türkçe metni ve kural motorundan üretilmiş, kıyas gövdelerini
+içermeyen biçim bilgisi cümleleriyle devam eğitimi yapıldı (Adafactor, kararlı yuvarlamalı bf16),
+ardından genel yeteneği korumak için v1 ağırlıklarıyla eşit oranlı karışım (0,5). Taban Qwen3-32B
+aynıdır; kimlik yine sohbet şablonundaki varsayılan sistem istemiyle verilir.
+**Sonuçlar** (aynı sabit protokol, hücre kümeli %95 güven aralığı, eşli fark v1'e göre):
+| Ölçüm | v1 | **v2** | Fark |
+|---|---|---|---|
+| TurkishMMLU temiz 652, şık döndürmeli | %71,0 | **%71,5** | +0,5 |
+| TurkMorfBench 3.6 çekirdek (1.836 madde) | %74,9 | **%76,5** | +1,5 [+0,3, +2,2] |
+Erk-32B v2, ölçtüğümüz 17 model içinde TurkishMMLU'da en yüksek genel yeteneğe sahip modeldir ve
+TurkMorfBench liderlik tablosunda ilk beştedir. Hiçbir kovada anlamlı gerileme yoktur. Tablo ve
+protokol: [TurkMorfBench](https://huggingface.co/datasets/ecloudtech/TurkMorfBench).
+**Hangisini indirmeli.** Genel amaçlı Türkçe asistan için **v2** (`main`). GGUF:
+[Erk-32B-GGUF](https://huggingface.co/ecloudtech/Erk-32B-GGUF) (Q4_K_M ~20 GB, Q8_0 ~35 GB).
 ## Sonuçlar (işletme noktası: LoRA ölçeği 0,75 + sistem istemi, birleşik ağırlık)
 | Ölçüm | Taban Qwen3-32B | **Erk-32B** | Fark | %95 GA |