JumpLander-PMB-100K / examples /example_record.json
jumplander's picture
Upload 6 files
e19f925 verified
Raw
History Blame Contribute Delete
5.2 kB
{
"id": "JL-PMB-000001",
"dataset": "JumpLander-PMB-100K",
"version": "1.0.0-synthetic",
"split": "train",
"language": "fa",
"domain": "php_blog_cms",
"domain_label_fa": "سیستم وبلاگ PHP",
"scenario_type": "intent_understanding",
"scenario_label_fa": "فهم نیت کاربر",
"task_type": "architecture_choice",
"task_label_fa": "انتخاب معماری",
"raw_user_message": "میخوام بفهمم مشکل از کجاست نه اینکه کلشو عوض کنی — زمینه: سیستم وبلاگ PHP / فایل sitemap.php. نمونه شماره 1.",
"normalized_user_intent": "کاربر می‌خواهد مدل نیت اصلی درخواست را دقیق استخراج کند و از انجام اقدام نامرتبط یا تولید کد غیرضروری خودداری کند.",
"intent": {
"primary_intent": "architecture_choice",
"secondary_intents": [
"intent_understanding",
"php_blog_cms"
],
"intent_confidence": "high"
},
"constraints": [
{
"type": "only_needed_block",
"text": "فقط بخش لازم ارائه شود",
"priority": "must"
},
{
"type": "ask_one_question",
"text": "در صورت نیاز فقط یک سؤال روشن‌کننده پرسیده شود",
"priority": "should"
},
{
"type": "keep_existing_names",
"text": "نام کلاس‌ها و متغیرهای فعلی تغییر نکند",
"priority": "must"
}
],
"context": {
"conversation_context": "سناریوی فارسی واقع‌گرایانه برای سنجش رفتار مدل در تعامل با توسعه‌دهنده.",
"code_context": {
"has_code": true,
"files": [
{
"path": "sitemap.php",
"role": "target_file",
"content_summary": "بخشی از پروژه مرتبط با سیستم وبلاگ PHP که باید بدون تغییر اضافی حفظ شود."
}
],
"project_constraints": [
"تغییر کم‌ریسک",
"حفظ ساختار فعلی",
"پاسخ قابل اجرا"
]
}
},
"ambiguity": {
"has_ambiguity": false,
"missing_information": [],
"should_ask_clarifying_question": false,
"allowed_assumption_level": "medium"
},
"expected_model_behavior": {
"should_do": [
"نیت اصلی کاربر را از متن فارسی استخراج کند",
"بین توضیح، اصلاح، کددهی و راهنمای جای‌گذاری تفاوت بگذارد",
"پاسخ را بر اساس هدف واقعی کاربر تنظیم کند"
],
"should_not_do": [
"بدون فهم هدف واقعی کد تولید نکند",
"درخواست را به موضوع دیگری تبدیل نکند",
"با جواب عمومی از مسئله فرار نکند"
]
},
"bad_model_behavior": {
"failure_types": [
"generic_answer",
"wrong_task_type"
],
"description": "مدل در این سناریو ممکن است دچار فهم نیت کاربر ضعیف شود؛ مثلاً محدودیت را نادیده بگیرد، پاسخ عمومی بدهد یا اقدام اضافی انجام دهد."
},
"ideal_response": {
"response_type": "instruction",
"content": "درخواست اصلی تو تغییر کد نیست؛ اول باید مشخص شود این بخش چه کاری انجام می‌دهد و خروجی دقیقاً بر همان اساس توضیح داده شود. بنابراین پاسخ باید تحلیل کوتاه، هدف کد، و در صورت نیاز یک گام بعدی عملی بدهد.",
"style": "direct_persian_technical",
"must_preserve": [
"فقط بخش لازم ارائه شود",
"نام کلاس‌ها و متغیرهای فعلی تغییر نکند"
]
},
"evaluation": {
"criteria": [
"آیا نیت اصلی درست استخراج شده است؟",
"آیا مدل از تولید خروجی نامرتبط خودداری کرده است؟",
"آیا نوع پاسخ با هدف کاربر هماهنگ است؟"
],
"score_rubric": {
"0": "کاملاً اشتباه؛ نیت، محدودیت یا فرمت اصلی رعایت نشده است.",
"1": "ضعیف؛ بخشی از نیت فهمیده شده اما خروجی قابل اتکا نیست.",
"2": "متوسط؛ نیت کلی فهمیده شده اما یک یا چند محدودیت مهم نقض شده است.",
"3": "خوب؛ پاسخ قابل قبول و عمدتاً مطابق درخواست است.",
"4": "عالی؛ پاسخ دقیق، امن، محدود، قابل اجرا و کاملاً مطابق رفتار مورد انتظار است."
},
"minimum_passing_score": 3
},
"metadata": {
"difficulty": "medium",
"source_type": "synthetic_realistic",
"created_by": "JumpLander",
"quality_level": "structured_synthetic",
"tags": [
"persian",
"model-behavior",
"instruction-following",
"intent-understanding",
"coding-agent"
]
}
}