wuuk's picture
Add language field to task metadata
94287cb verified
Raw
History Blame Contribute Delete
4 kB
{
"absolute_id": 128,
"language": "cn",
"persona": "Researcher",
"task": "我的ST-Raptor项目文件夹下有5个以各自功能所简要命名的.py文件,我可能会通过不同参数多次运行,给出运行的终端指令模版,并列出完整参数列表,总结成说明,输出为ST-Raptor运行指令与参数说明.md文件",
"task_diff": "困难(步骤超过10步且包含协同类型3)",
"output_files": [
"ST-Raptor运行指令与参数说明.md"
],
"rubrics": [
"输出文件ST-Raptor运行指令与参数说明.md是否包含了gradio_app.py、table_preprocess.py、embedding.py、clean_cache.py、ai_evaluate.py共5个.py文件的说明?",
"输出文件中为每个.py文件是否都提供了清晰的终端指令模版?",
"gradio_app.py的说明中是否包含server_name默认值0.0.0.0、server_port默认值7860、share默认值False这些参数信息?",
"gradio_app.py的说明中是否指明默认访问地址为http://localhost:7860,且退出时自动清理缓存?",
"table_preprocess.py中excel2tree函数是否列出了file、pkl_dir、convert_pkl、json_dir、convert_json、str_dir、convert_str、embedding_dir、convert_embedding等全部9个参数及其说明?",
"table_preprocess.py中是否指出需要修改源码main()函数中的dataset_dir变量来指定数据集路径?",
"table_preprocess.py是否说明了处理每个xlsx文件会输出pkl、json、txt、embedding.json四个文件?",
"embedding.py中是否说明了EmbeddingModel类的主要方法one_to_many_semilarity、topk_match、top1_match的参数要求?",
"embedding.py中是否指出value_list和embedding_cache_file必须指定其中一个?",
"clean_cache.py是否说明默认清理CACHE_DIR,并且可以通过取消注释清理其他缓存目录?",
"ai_evaluate.py中evaluate函数是否说明了input_file是JSONL格式、output_dir是输出目录?",
"ai_evaluate.py是否说明会输出Accuracy、BLEU、ROUGE-1/2/L、METEOR共5个评估指标?",
"ai_evaluate.py是否说明支持断点续评,已评估问题会跳过不重复处理?",
"输出文档中是否包含通用运行流程建议,给出清理缓存→预处理表格→启动交互式问答的完整顺序?",
"输出文件是否为标准Markdown格式,包含标题、目录和代码块?",
"是否文档中每个文件的说明都包含功能描述、指令模版、参数列表、使用示例四个部分?",
"文档是否正确指出所有脚本都需要在ST-Raptor项目根目录下运行?"
],
"rubric_types": [
"基础评估",
"基础评估",
"结果评估",
"结果评估",
"结果评估",
"结果评估",
"结果评估",
"结果评估",
"结果评估",
"结果评估",
"结果评估",
"结果评估",
"过程评估",
"结果评估",
"基础评估",
"基础评估",
"基础评估"
],
"file_dep_graph": [
{
"from": "clean_cache.py",
"to": "table_preprocess.py"
},
{
"from": "table_preprocess.py",
"to": "embedding.py"
},
{
"from": "table_preprocess.py",
"to": "gradio_app.py"
},
{
"from": "embedding.py",
"to": "gradio_app.py"
}
],
"data_manifest": [
{
"filename": "table_preprocess.py",
"stored_relpath": "data/1d0b253770d8fa15_table_preprocess.py"
},
{
"filename": "clean_cache.py",
"stored_relpath": "data/37a2cc59594426a7_clean_cache.py"
},
{
"filename": "ai_evaluate.py",
"stored_relpath": "data/851e272e81a480e1_ai_evaluate.py"
},
{
"filename": "gradio_app.py",
"stored_relpath": "data/cc4ebddb85bf4f99_gradio_app.py"
},
{
"filename": "embedding.py",
"stored_relpath": "data/e98f0f4ff6a57f83_embedding.py"
}
],
"tested_capabilities": [
"Workspace Exploration",
"Semantic Content Relations Understanding"
]
}