tags:
- gguf
- llama.cpp
- text-generation
- ethical-hacking
- 33b
base_model: WhiteRabbitNeo/Trinity-33B-v1.0
pipeline_tag: text-generation
Froged_N1
Repositori ini berisi kuantisasi GGUF Q6_K dari Trinity-33B-v1.0. Berkas model disalin dari LoneStriker/Trinity-33B-v1.0-GGUF. Ini adalah berkas kuantisasi komunitas; repo ini tidak mengklaim telah melatih atau melakukan fine-tuning ulang model.
Berkas
Trinity-33B-v1.0-Q6_K.gguf— sekitar 27,36 GB.
GGUF ditujukan untuk runtime yang mendukung format ini, seperti llama.cpp. File ini bukan checkpoint Transformers biasa dan tidak dapat dimuat dengan contoh AutoModelForCausalLM.from_pretrained() langsung dari repo ini.
Menjalankan
Dengan versi llama.cpp yang mendukung unduhan model dari Hugging Face:
llama-cli -hf bytecode66/Froged_N1:Trinity-33B-v1.0-Q6_K.gguf
Atau unduh file GGUF dari tab Files and versions lalu jalankan secara lokal:
llama-cli -m ./Trinity-33B-v1.0-Q6_K.gguf -p "Jelaskan konsep keamanan siber untuk lingkungan lab yang berizin." -n 200
Pemakaian model 33B memerlukan RAM/VRAM yang memadai. Kebutuhan aktual bergantung pada runtime, panjang konteks, dan jumlah layer yang ditempatkan di GPU.
Penggunaan yang bertanggung jawab
Model ini ditujukan untuk pembelajaran, pengembangan, dan pengujian keamanan siber di sistem yang Anda miliki atau yang penggunaannya telah diizinkan, termasuk lab lokal dan CTF. Jangan gunakan untuk mengakses, mengganggu, atau mengeksploitasi sistem tanpa izin.
Model dasar dan lisensi
Model dasar: WhiteRabbitNeo/Trinity-33B-v1.0. Tinjau kartu model dan lisensi model dasar sebelum penggunaan atau redistribusi. Kuantisasi GGUF ini berasal dari LoneStriker; lihat repositori sumber untuk rincian kuantisasi dan atribusi.