Datasets:
Modalities:
Text
Formats:
json
Size:
100K - 1M
Tags:
persian
model-behavior
instruction-following
intent-understanding
constraint-following
safe-response-evaluation
License:
| { | |
| "id": "JL-PMB-000001", | |
| "dataset": "JumpLander-PMB-100K", | |
| "version": "1.0.0-synthetic", | |
| "split": "train", | |
| "language": "fa", | |
| "domain": "php_blog_cms", | |
| "domain_label_fa": "سیستم وبلاگ PHP", | |
| "scenario_type": "intent_understanding", | |
| "scenario_label_fa": "فهم نیت کاربر", | |
| "task_type": "architecture_choice", | |
| "task_label_fa": "انتخاب معماری", | |
| "raw_user_message": "میخوام بفهمم مشکل از کجاست نه اینکه کلشو عوض کنی — زمینه: سیستم وبلاگ PHP / فایل sitemap.php. نمونه شماره 1.", | |
| "normalized_user_intent": "کاربر میخواهد مدل نیت اصلی درخواست را دقیق استخراج کند و از انجام اقدام نامرتبط یا تولید کد غیرضروری خودداری کند.", | |
| "intent": { | |
| "primary_intent": "architecture_choice", | |
| "secondary_intents": [ | |
| "intent_understanding", | |
| "php_blog_cms" | |
| ], | |
| "intent_confidence": "high" | |
| }, | |
| "constraints": [ | |
| { | |
| "type": "only_needed_block", | |
| "text": "فقط بخش لازم ارائه شود", | |
| "priority": "must" | |
| }, | |
| { | |
| "type": "ask_one_question", | |
| "text": "در صورت نیاز فقط یک سؤال روشنکننده پرسیده شود", | |
| "priority": "should" | |
| }, | |
| { | |
| "type": "keep_existing_names", | |
| "text": "نام کلاسها و متغیرهای فعلی تغییر نکند", | |
| "priority": "must" | |
| } | |
| ], | |
| "context": { | |
| "conversation_context": "سناریوی فارسی واقعگرایانه برای سنجش رفتار مدل در تعامل با توسعهدهنده.", | |
| "code_context": { | |
| "has_code": true, | |
| "files": [ | |
| { | |
| "path": "sitemap.php", | |
| "role": "target_file", | |
| "content_summary": "بخشی از پروژه مرتبط با سیستم وبلاگ PHP که باید بدون تغییر اضافی حفظ شود." | |
| } | |
| ], | |
| "project_constraints": [ | |
| "تغییر کمریسک", | |
| "حفظ ساختار فعلی", | |
| "پاسخ قابل اجرا" | |
| ] | |
| } | |
| }, | |
| "ambiguity": { | |
| "has_ambiguity": false, | |
| "missing_information": [], | |
| "should_ask_clarifying_question": false, | |
| "allowed_assumption_level": "medium" | |
| }, | |
| "expected_model_behavior": { | |
| "should_do": [ | |
| "نیت اصلی کاربر را از متن فارسی استخراج کند", | |
| "بین توضیح، اصلاح، کددهی و راهنمای جایگذاری تفاوت بگذارد", | |
| "پاسخ را بر اساس هدف واقعی کاربر تنظیم کند" | |
| ], | |
| "should_not_do": [ | |
| "بدون فهم هدف واقعی کد تولید نکند", | |
| "درخواست را به موضوع دیگری تبدیل نکند", | |
| "با جواب عمومی از مسئله فرار نکند" | |
| ] | |
| }, | |
| "bad_model_behavior": { | |
| "failure_types": [ | |
| "generic_answer", | |
| "wrong_task_type" | |
| ], | |
| "description": "مدل در این سناریو ممکن است دچار فهم نیت کاربر ضعیف شود؛ مثلاً محدودیت را نادیده بگیرد، پاسخ عمومی بدهد یا اقدام اضافی انجام دهد." | |
| }, | |
| "ideal_response": { | |
| "response_type": "instruction", | |
| "content": "درخواست اصلی تو تغییر کد نیست؛ اول باید مشخص شود این بخش چه کاری انجام میدهد و خروجی دقیقاً بر همان اساس توضیح داده شود. بنابراین پاسخ باید تحلیل کوتاه، هدف کد، و در صورت نیاز یک گام بعدی عملی بدهد.", | |
| "style": "direct_persian_technical", | |
| "must_preserve": [ | |
| "فقط بخش لازم ارائه شود", | |
| "نام کلاسها و متغیرهای فعلی تغییر نکند" | |
| ] | |
| }, | |
| "evaluation": { | |
| "criteria": [ | |
| "آیا نیت اصلی درست استخراج شده است؟", | |
| "آیا مدل از تولید خروجی نامرتبط خودداری کرده است؟", | |
| "آیا نوع پاسخ با هدف کاربر هماهنگ است؟" | |
| ], | |
| "score_rubric": { | |
| "0": "کاملاً اشتباه؛ نیت، محدودیت یا فرمت اصلی رعایت نشده است.", | |
| "1": "ضعیف؛ بخشی از نیت فهمیده شده اما خروجی قابل اتکا نیست.", | |
| "2": "متوسط؛ نیت کلی فهمیده شده اما یک یا چند محدودیت مهم نقض شده است.", | |
| "3": "خوب؛ پاسخ قابل قبول و عمدتاً مطابق درخواست است.", | |
| "4": "عالی؛ پاسخ دقیق، امن، محدود، قابل اجرا و کاملاً مطابق رفتار مورد انتظار است." | |
| }, | |
| "minimum_passing_score": 3 | |
| }, | |
| "metadata": { | |
| "difficulty": "medium", | |
| "source_type": "synthetic_realistic", | |
| "created_by": "JumpLander", | |
| "quality_level": "structured_synthetic", | |
| "tags": [ | |
| "persian", | |
| "model-behavior", | |
| "instruction-following", | |
| "intent-understanding", | |
| "coding-agent" | |
| ] | |
| } | |
| } |