Instructions to use Gokalp35/NutukLLM-V1 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Gokalp35/NutukLLM-V1 with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("token-classification", model="Gokalp35/NutukLLM-V1")

# Load model directly
from transformers import AutoModel
model = AutoModel.from_pretrained("Gokalp35/NutukLLM-V1", dtype="auto")

llama-cpp-python

How to use Gokalp35/NutukLLM-V1 with llama-cpp-python:

# !pip install llama-cpp-python

from llama_cpp import Llama

llm = Llama.from_pretrained(
	repo_id="Gokalp35/NutukLLM-V1",
	filename="nutukLLM.gguf",
)

output = llm(
	"Once upon a time,",
	max_tokens=512,
	echo=True
)
print(output)

Notebooks
Google Colab
Kaggle
Local Apps Settings

llama.cpp

How to use Gokalp35/NutukLLM-V1 with llama.cpp:

Install from brew

brew install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama-server -hf Gokalp35/NutukLLM-V1
# Run inference directly in the terminal:
llama-cli -hf Gokalp35/NutukLLM-V1

Install from WinGet (Windows)

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama-server -hf Gokalp35/NutukLLM-V1
# Run inference directly in the terminal:
llama-cli -hf Gokalp35/NutukLLM-V1

Use pre-built binary

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases
# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf Gokalp35/NutukLLM-V1
# Run inference directly in the terminal:
./llama-cli -hf Gokalp35/NutukLLM-V1

Build from source code

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf Gokalp35/NutukLLM-V1
# Run inference directly in the terminal:
./build/bin/llama-cli -hf Gokalp35/NutukLLM-V1

Use Docker

docker model run hf.co/Gokalp35/NutukLLM-V1

LM Studio
Jan
Ollama
How to use Gokalp35/NutukLLM-V1 with Ollama:
```
ollama run hf.co/Gokalp35/NutukLLM-V1
```

Unsloth Studio

How to use Gokalp35/NutukLLM-V1 with Unsloth Studio:

Install Unsloth Studio (macOS, Linux, WSL)

curl -fsSL https://unsloth.ai/install.sh | sh
# Run unsloth studio
unsloth studio -H 0.0.0.0 -p 8888
# Then open http://localhost:8888 in your browser
# Search for Gokalp35/NutukLLM-V1 to start chatting

Install Unsloth Studio (Windows)

irm https://unsloth.ai/install.ps1 | iex
# Run unsloth studio
unsloth studio -H 0.0.0.0 -p 8888
# Then open http://localhost:8888 in your browser
# Search for Gokalp35/NutukLLM-V1 to start chatting

Using HuggingFace Spaces for Unsloth

# No setup required
# Open https://huggingface.co/spaces/unsloth/studio in your browser
# Search for Gokalp35/NutukLLM-V1 to start chatting

Docker Model Runner
How to use Gokalp35/NutukLLM-V1 with Docker Model Runner:
```
docker model run hf.co/Gokalp35/NutukLLM-V1
```

Lemonade

How to use Gokalp35/NutukLLM-V1 with Lemonade:

Pull the model

# Download Lemonade from https://lemonade-server.ai/
lemonade pull Gokalp35/NutukLLM-V1

Run and chat with the model

lemonade run user.NutukLLM-V1-{{QUANT_TAG}}

List all available models

lemonade list

Ulu Önderimiz Gazi Mustafa Kemal Atatürk, 15–20 Ekim 1927 tarihleri arasında toplanan, Cumhuriyet Halk Partisi'nin İkinci Büyük Kurultayında Nutuk'u okumuştur. Okunan bu eser, Türkiye Cumhuriyetimizin temellerinin nasıl atıldığnı, gösterilen milli mücadeleyi, ülkemizin hangi şartlar altında kimlere ve nelere karşı kazanıldığını anlatmıştır. Bende Ulu önderimizden bilim ve teknoloji ışığından ilham alarak yeni bir LLM Projesi geliştirdim. Türkler için Nutuk, sadece bir tarih anlatısı değil, aynı zamanda bağımsızlık ruhunun en güçlü yankısıdır. Mustafa Kemal Atatürk’ün kaleminden dökülen bu eser, Türk milletinin esaretten özgürlüğe, umutsuzluktan zafere uzanan destanını gözler önüne serer. Her satırında fedakârlık, azim ve inanç saklıdır; bu yüzden sadece geçmişi değil, geleceği de aydınlatan bir rehber niteliğindedir. LLM projemde Nutuk’un taşıdığı derin anlam, bilgiyi yalnızca işleyen değil, ruhu olan bir yapay zeka modeli geliştirme idealime ilham veriyor. Çünkü gerçek zeka, sadece verileri değil, o verilerin arkasındaki tarihi, idealleri ve vatan sevgisini de anlayabilmelidir. Geliştirdiğim projede 250 soruya yanıt verilecek şekilde tasarlanmıştır. Daha fazla soru üretilmek üzere güncel versiyonları geliştirilecektir. Farklı alanlarda sorulara cevap verilecek şekilde geliştirilmiştir.

Lütfen eksiklerimi ve hatalarımı bana bildirin yeni güncel versiyonlarında düzeltilecektir. Projenin Chatgbt veya docker platformlarında çalıştırılabilir dosya formatı dosyalar içerisinde yer almaktadır. Ulu Önderimiz Mustafa Kemal Atatürk ve silah arkadaşlarına saygılarım ve sevgilerimle.

Geliştirdiğim projede 250 soruya yanıt verilecek şekilde LLM projesi tasarlanmıştır. Daha fazla soru üretilmek üzere güncel versiyonları geliştirilecektir.

Hangi soruların projeye dahil edildiği ile ilgili https://huggingface.co/datasets/Gokalp35/NutukLLM kaynağından ulaşabilirsiniz.

Our Great Leader Gazi Mustafa Kemal Atatürk read the Nutuk at the Second Grand Congress of the Republican People's Party, which was held between October 15-20, 1927. This work that was read explained how the foundations of our Republic of Turkey were laid, the national struggle that was shown, and under what conditions and against whom and what our country was won. I also developed a new LLM Project inspired by the light of science and technology from our Great Leader. For Turks, Nutuk is not only a historical narrative, but also the strongest echo of the spirit of independence. This work, written by Mustafa Kemal Atatürk, reveals the epic of the Turkish nation from captivity to freedom, from despair to victory. Sacrifice, determination and faith are hidden in every line; therefore, it is a guide that illuminates not only the past but also the future. The deep meaning carried by Nutuk in my LLM project inspires my ideal of developing an artificial intelligence model that not only processes information but also has a soul. Because real intelligence should be able to understand not only the data but also the history, ideals and patriotism behind that data. The project I developed was designed to answer 250 questions. Updated versions will be developed to produce more questions. It was developed to answer questions in different areas.

Please let me know about my shortcomings and errors, they will be corrected in new updated versions. The project's executable file format on Chatgbt or docker platforms is included in the files. My respects and love to our Great Leader Mustafa Kemal Atatürk and his comrades.