Zephyr ⚡ (English)

Discord

Zephyr is an instruction-tuned assistant developed by youssef. It is fine-tuned to act as a helpful, direct, and capable AI companion for coding, conversation, and general assistance.

Model Details

  • Model Name: Zephyr
  • Developer / Creator: youssef
  • Base Architecture: Qwen2.5-0.5B-Instruct
  • Fine-Tuning Method: LoRA (PEFT)
  • Primary Languages: English, Arabic
  • Intended Use: Chat, coding assistance, and conversational reasoning.

How to Use

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base_model_name = "Qwen/Qwen2.5-0.5B-Instruct"
adapter_name = "y68ko/zephyr"

tokenizer = AutoTokenizer.from_pretrained(base_model_name)
base_model = AutoModelForCausalLM.from_pretrained(
    base_model_name,
    torch_dtype=torch.float16,
    device_map="auto"
)
model = PeftModel.from_pretrained(base_model, adapter_name)

messages = [
    {"role": "user", "content": "Who are you?"}
]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)

outputs = model.generate(**inputs, max_new_tokens=128)
response = tokenizer.decode(outputs[0][inputs.input_ids.shape[1]:], skip_special_tokens=True)
print(response)

Community & Bot Usage

Discord

  • Discord Server: Archon Project / Zephyr
    Join the Discord server to use and interact with the Zephyr bot directly inside channels.

مشروع Zephyr ⚡ (العربية)

Discord

Zephyr هو مساعد ذكاء اصطناعي تفاعلي ومخصص تم تطويره وضبطه بواسطة youssef. صُمم ليكون رفيقاً ذكياً ومساعداً برمجياً وحوارياً فعالاً باللغتين العربية والإنجليزية.

تفاصيل النموذج

  • اسم النموذج: Zephyr
  • المطور: youssef
  • المعمارية الأساسية: Qwen2.5-0.5B-Instruct
  • طريقة الضبط (Fine-Tuning): LoRA (PEFT)
  • اللغات الأساسية: العربية والإنجليزية
  • الاستخدام المستهدف: الحوار والمحادثة، المساعدة البرمجية، وإدارة المهام.

استخدام البوت ومجتمع المشروع

Discord

  • سيرفر الديسكورد: Archon Project / Zephyr
    انضم إلى السيرفر لاستخدام بوت Zephyr والتفاعل معه مباشرة داخل قنوات الديسكورد ومتابعة التحديثات.
Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for y68ko/zephyr

Adapter
(788)
this model