Instructions to use SykoSLM/SykoLLM-V3.3-Beta-NonTrained with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use SykoSLM/SykoLLM-V3.3-Beta-NonTrained with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="SykoSLM/SykoLLM-V3.3-Beta-NonTrained")

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("SykoSLM/SykoLLM-V3.3-Beta-NonTrained")
model = AutoModelForCausalLM.from_pretrained("SykoSLM/SykoLLM-V3.3-Beta-NonTrained")

Notebooks
Google Colab
Kaggle
Local Apps

vLLM

How to use SykoSLM/SykoLLM-V3.3-Beta-NonTrained with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "SykoSLM/SykoLLM-V3.3-Beta-NonTrained"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "SykoSLM/SykoLLM-V3.3-Beta-NonTrained",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker

docker model run hf.co/SykoSLM/SykoLLM-V3.3-Beta-NonTrained

SGLang

How to use SykoSLM/SykoLLM-V3.3-Beta-NonTrained with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "SykoSLM/SykoLLM-V3.3-Beta-NonTrained" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "SykoSLM/SykoLLM-V3.3-Beta-NonTrained",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "SykoSLM/SykoLLM-V3.3-Beta-NonTrained" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "SykoSLM/SykoLLM-V3.3-Beta-NonTrained",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Docker Model Runner
How to use SykoSLM/SykoLLM-V3.3-Beta-NonTrained with Docker Model Runner:
```
docker model run hf.co/SykoSLM/SykoLLM-V3.3-Beta-NonTrained
```

SykoLLM-V3.3-Beta (Non-Trained) 🇹🇷

Bu repo, SykoLLM V3.3 sürümünün eğitim öncesi (randomly initialized) iskelet modelini içerir. Model Llama 3 mimarisi üzerine inşa edilmiştir ve özellikle Türkçe dil yetenekleri için optimize edilecek şekilde tasarlanmıştır.

🚨 DİKKAT: Bu model henüz EĞİTİLMEMİŞTİR (Untrained). Ağırlıkları rastgeledir. Şu haliyle anlamlı cevaplar veremez. Pre-training (CulturaX veri seti ile) süreci yakında başlayacaktır.

Model Mimarisi ve Özellikler

Bu model, standart Llama 3 mimarisini takip eder ancak 1.5 Milyar parametre sınıfına uyarlanmıştır.

Özellik	Değer	Açıklama
Parametre Sayısı	~1.61 Milyar	Giriş seviyesi LLM için ideal denge
Context Size	8K (8192)	Uzun metinleri anlama kapasitesi
Vocab Size	128k	Llama 3 Tokenizer (Zengin Türkçe desteği)
Hidden Size	2048	Model genişliği
Layers	24	Katman sayısı
GQA	Var	Grouped Query Attention (Daha hızlı inference)

Yol Haritası 🗺️

Model mimarisinin belirlenmesi (Llama 3 tabanlı 1.5B)
Hugging Face reposunun oluşturulması
Pre-training: uonlp/CulturaX veri seti ile A100 GPU üzerinde eğitim
Fine-tuning: Türkçe talimat (instruct) veri setleri ile ince ayar

Geliştirici Notu

Ben Burak (15), bu model üzerinde sıfırdan model eğitimi deneyimleri yapıyorum. Önceki V3.2 (320M) modelimden elde ettiğim tecrübeleri, şimdi A100 donanımı ve modern Llama 3 mimarisi ile birleştirerek 1.5B seviyesine taşıyorum.

Geliştirici: syko818121

Downloads last month: 6

Safetensors

Model size

2B params

Tensor type

F32