Instructions to use U4RASD/DRU-RE-Yehia-2 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use U4RASD/DRU-RE-Yehia-2 with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("Navid-AI/Yehia-7B-preview") model = PeftModel.from_pretrained(base_model, "U4RASD/DRU-RE-Yehia-2") - Transformers
How to use U4RASD/DRU-RE-Yehia-2 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="U4RASD/DRU-RE-Yehia-2") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("U4RASD/DRU-RE-Yehia-2", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use U4RASD/DRU-RE-Yehia-2 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "U4RASD/DRU-RE-Yehia-2" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "U4RASD/DRU-RE-Yehia-2", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/U4RASD/DRU-RE-Yehia-2
- SGLang
How to use U4RASD/DRU-RE-Yehia-2 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "U4RASD/DRU-RE-Yehia-2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "U4RASD/DRU-RE-Yehia-2", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "U4RASD/DRU-RE-Yehia-2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "U4RASD/DRU-RE-Yehia-2", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use U4RASD/DRU-RE-Yehia-2 with Docker Model Runner:
docker model run hf.co/U4RASD/DRU-RE-Yehia-2
File size: 5,075 Bytes
b61945f | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 | {
"id": "train_1831",
"marked_sentence": "\"\" نجدّد نداءاتنا للسلطات التركية المعنية لتسهيل العبور العاجل للإمدادات الأساسية والموظفين إلى شمال غرب سوريا للسماح بتوسيع نطاق استجابتنا الإنسانية والطبية في المنطقة . \"\" [الأول] كريستيان ريندرز [/الأول] ، منسّق أنشطة [الثاني] أطباء بلا حدود [/الثاني] في شمال غرب سوريا ,",
"first_type_ar": "شخص",
"second_type_ar": "منظمة",
"allowed_relation_full_labels": [
"Administration.leader_of",
"Productivity.founder_of",
"Administration.president_of",
"Administration.manager_of",
"Affiliation.member_of",
"Affiliation.student_at",
"Affiliation.employee_of",
"Business.has_competitor",
"Affiliation.owner_of",
"no_relation"
],
"allowed_options_ar": [
"الأول هو قائد الثاني",
"الأول هو مؤسس الثاني",
"الأول هو رئيس/يتولى أعلى منصب في الثاني",
"الأول هو مدير الثاني",
"الأول عضو في الثاني",
"الأول طالب في/تلقى تعليمه في الثاني",
"الأول يعمل لدى الثاني",
"الأول منافس لـ الثاني",
"الأول يمتلك الثاني",
"لا توجد علاقة"
],
"option_codes": ["أ", "ب", "ج", "د", "ه", "و", "ز", "ح", "ط", "ي"],
"gold_option_index": 6,
"gold_answer_ar": "الأول يعمل لدى الثاني",
"gold_answer_code": "ز",
"prompt_messages": [
{
"role": "system",
"content": "أنت مصنّف علاقات. حدّد العلاقة الموجّهة من الكيان [الأول] إلى الكيان [الثاني].\nاختر علاقة واحدة من القائمة تناسب معنى الجملة ونوعي الكيانين.\nإن لم تنطبق أي علاقة فاختر «لا توجد علاقة».\nأجب برمز الخيار فقط: حرف عربي واحد دون رقم أو شرح."
},
{
"role": "user",
"content": "الجملة:\n\"\" نجدّد نداءاتنا للسلطات التركية المعنية لتسهيل العبور العاجل للإمدادات الأساسية والموظفين إلى شمال غرب سوريا للسماح بتوسيع نطاق استجابتنا الإنسانية والطبية في المنطقة . \"\" [الأول] كريستيان ريندرز [/الأول] ، منسّق أنشطة [الثاني] أطباء بلا حدود [/الثاني] في شمال غرب سوريا ,\n\nنوع الأول: شخص\nنوع الثاني: منظمة\n\nالخيارات:\nأ) الأول هو قائد الثاني\nب) الأول هو مؤسس الثاني\nج) الأول هو رئيس/يتولى أعلى منصب في الثاني\nد) الأول هو مدير الثاني\nه) الأول عضو في الثاني\nو) الأول طالب في/تلقى تعليمه في الثاني\nز) الأول يعمل لدى الثاني\nح) الأول منافس لـ الثاني\nط) الأول يمتلك الثاني\nي) لا توجد علاقة\n\nرمز الإجابة:"
}
],
"messages": [
{
"role": "system",
"content": "أنت مصنّف علاقات. حدّد العلاقة الموجّهة من الكيان [الأول] إلى الكيان [الثاني].\nاختر علاقة واحدة من القائمة تناسب معنى الجملة ونوعي الكيانين.\nإن لم تنطبق أي علاقة فاختر «لا توجد علاقة».\nأجب برمز الخيار فقط: حرف عربي واحد دون رقم أو شرح."
},
{
"role": "user",
"content": "الجملة:\n\"\" نجدّد نداءاتنا للسلطات التركية المعنية لتسهيل العبور العاجل للإمدادات الأساسية والموظفين إلى شمال غرب سوريا للسماح بتوسيع نطاق استجابتنا الإنسانية والطبية في المنطقة . \"\" [الأول] كريستيان ريندرز [/الأول] ، منسّق أنشطة [الثاني] أطباء بلا حدود [/الثاني] في شمال غرب سوريا ,\n\nنوع الأول: شخص\nنوع الثاني: منظمة\n\nالخيارات:\nأ) الأول هو قائد الثاني\nب) الأول هو مؤسس الثاني\nج) الأول هو رئيس/يتولى أعلى منصب في الثاني\nد) الأول هو مدير الثاني\nه) الأول عضو في الثاني\nو) الأول طالب في/تلقى تعليمه في الثاني\nز) الأول يعمل لدى الثاني\nح) الأول منافس لـ الثاني\nط) الأول يمتلك الثاني\nي) لا توجد علاقة\n\nرمز الإجابة:"
},
{"role": "assistant", "content": "ز"}
],
"prompt_version": "yehia_re_ar_v3_one_token_choice"
}
|