Instructions to use U4RASD/DRU-RE-Yehia-2 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use U4RASD/DRU-RE-Yehia-2 with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("Navid-AI/Yehia-7B-preview") model = PeftModel.from_pretrained(base_model, "U4RASD/DRU-RE-Yehia-2") - Transformers
How to use U4RASD/DRU-RE-Yehia-2 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="U4RASD/DRU-RE-Yehia-2") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("U4RASD/DRU-RE-Yehia-2", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use U4RASD/DRU-RE-Yehia-2 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "U4RASD/DRU-RE-Yehia-2" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "U4RASD/DRU-RE-Yehia-2", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/U4RASD/DRU-RE-Yehia-2
- SGLang
How to use U4RASD/DRU-RE-Yehia-2 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "U4RASD/DRU-RE-Yehia-2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "U4RASD/DRU-RE-Yehia-2", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "U4RASD/DRU-RE-Yehia-2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "U4RASD/DRU-RE-Yehia-2", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use U4RASD/DRU-RE-Yehia-2 with Docker Model Runner:
docker model run hf.co/U4RASD/DRU-RE-Yehia-2
| { | |
| "id": "train_1831", | |
| "marked_sentence": "\"\" نجدّد نداءاتنا للسلطات التركية المعنية لتسهيل العبور العاجل للإمدادات الأساسية والموظفين إلى شمال غرب سوريا للسماح بتوسيع نطاق استجابتنا الإنسانية والطبية في المنطقة . \"\" [الأول] كريستيان ريندرز [/الأول] ، منسّق أنشطة [الثاني] أطباء بلا حدود [/الثاني] في شمال غرب سوريا ,", | |
| "first_type_ar": "شخص", | |
| "second_type_ar": "منظمة", | |
| "allowed_relation_full_labels": [ | |
| "Administration.leader_of", | |
| "Productivity.founder_of", | |
| "Administration.president_of", | |
| "Administration.manager_of", | |
| "Affiliation.member_of", | |
| "Affiliation.student_at", | |
| "Affiliation.employee_of", | |
| "Business.has_competitor", | |
| "Affiliation.owner_of", | |
| "no_relation" | |
| ], | |
| "allowed_options_ar": [ | |
| "الأول هو قائد الثاني", | |
| "الأول هو مؤسس الثاني", | |
| "الأول هو رئيس/يتولى أعلى منصب في الثاني", | |
| "الأول هو مدير الثاني", | |
| "الأول عضو في الثاني", | |
| "الأول طالب في/تلقى تعليمه في الثاني", | |
| "الأول يعمل لدى الثاني", | |
| "الأول منافس لـ الثاني", | |
| "الأول يمتلك الثاني", | |
| "لا توجد علاقة" | |
| ], | |
| "option_codes": ["أ", "ب", "ج", "د", "ه", "و", "ز", "ح", "ط", "ي"], | |
| "gold_option_index": 6, | |
| "gold_answer_ar": "الأول يعمل لدى الثاني", | |
| "gold_answer_code": "ز", | |
| "prompt_messages": [ | |
| { | |
| "role": "system", | |
| "content": "أنت مصنّف علاقات. حدّد العلاقة الموجّهة من الكيان [الأول] إلى الكيان [الثاني].\nاختر علاقة واحدة من القائمة تناسب معنى الجملة ونوعي الكيانين.\nإن لم تنطبق أي علاقة فاختر «لا توجد علاقة».\nأجب برمز الخيار فقط: حرف عربي واحد دون رقم أو شرح." | |
| }, | |
| { | |
| "role": "user", | |
| "content": "الجملة:\n\"\" نجدّد نداءاتنا للسلطات التركية المعنية لتسهيل العبور العاجل للإمدادات الأساسية والموظفين إلى شمال غرب سوريا للسماح بتوسيع نطاق استجابتنا الإنسانية والطبية في المنطقة . \"\" [الأول] كريستيان ريندرز [/الأول] ، منسّق أنشطة [الثاني] أطباء بلا حدود [/الثاني] في شمال غرب سوريا ,\n\nنوع الأول: شخص\nنوع الثاني: منظمة\n\nالخيارات:\nأ) الأول هو قائد الثاني\nب) الأول هو مؤسس الثاني\nج) الأول هو رئيس/يتولى أعلى منصب في الثاني\nد) الأول هو مدير الثاني\nه) الأول عضو في الثاني\nو) الأول طالب في/تلقى تعليمه في الثاني\nز) الأول يعمل لدى الثاني\nح) الأول منافس لـ الثاني\nط) الأول يمتلك الثاني\nي) لا توجد علاقة\n\nرمز الإجابة:" | |
| } | |
| ], | |
| "messages": [ | |
| { | |
| "role": "system", | |
| "content": "أنت مصنّف علاقات. حدّد العلاقة الموجّهة من الكيان [الأول] إلى الكيان [الثاني].\nاختر علاقة واحدة من القائمة تناسب معنى الجملة ونوعي الكيانين.\nإن لم تنطبق أي علاقة فاختر «لا توجد علاقة».\nأجب برمز الخيار فقط: حرف عربي واحد دون رقم أو شرح." | |
| }, | |
| { | |
| "role": "user", | |
| "content": "الجملة:\n\"\" نجدّد نداءاتنا للسلطات التركية المعنية لتسهيل العبور العاجل للإمدادات الأساسية والموظفين إلى شمال غرب سوريا للسماح بتوسيع نطاق استجابتنا الإنسانية والطبية في المنطقة . \"\" [الأول] كريستيان ريندرز [/الأول] ، منسّق أنشطة [الثاني] أطباء بلا حدود [/الثاني] في شمال غرب سوريا ,\n\nنوع الأول: شخص\nنوع الثاني: منظمة\n\nالخيارات:\nأ) الأول هو قائد الثاني\nب) الأول هو مؤسس الثاني\nج) الأول هو رئيس/يتولى أعلى منصب في الثاني\nد) الأول هو مدير الثاني\nه) الأول عضو في الثاني\nو) الأول طالب في/تلقى تعليمه في الثاني\nز) الأول يعمل لدى الثاني\nح) الأول منافس لـ الثاني\nط) الأول يمتلك الثاني\nي) لا توجد علاقة\n\nرمز الإجابة:" | |
| }, | |
| {"role": "assistant", "content": "ز"} | |
| ], | |
| "prompt_version": "yehia_re_ar_v3_one_token_choice" | |
| } | |