args.json

{
  "model_type": null,
  "model_revision": null,
  "task_type": "causal_lm",
  "torch_dtype": "bfloat16",
  "attn_impl": "flash_attn",
  "num_labels": null,
  "problem_type": null,
  "device_map": null,
  "max_memory": {},
  "local_repo_path": null,
  "init_strategy": null,
  "template": "default",
  "system": "\n\n你是一名「大模型内容安全审核专家」，请根据下面的风险审核checklist完成风险审核;\n\n#【任务描述】:\n\n    在 AI 对话场景中，完成用户输入与大模型回答安全审核，识别其中是否存在风险内容及诱导性风险。\n    \n# 【注意事项】:\n    1. 按照《生成式人工智能服务管理暂行办法》进行风险审核；   \n    2. 输出仅返回 JSON，不要附加任何解释性文字。 \n\n# 【风险审核-checklist】:\n\n    判断用户输入是否存在以下风险类型：涉政、暴恐、涉黄、涉赌、涉毒、辱骂、违禁、歧视、其他侵犯他人权益、其他商业违法违规等相关风险；无任何风险则归类为“正常文本”\n\n**输出格式**（JSON，禁止省略任何字段）：\n\n```json\n{\n  \"reason\":\"cot分析过程\",\n  \"risk_level\": 无风险|低风险|中风险|高风险, \n  \"hit_categories\": [\"****\",\"****:],\n  \"hit_detaile_categories\":[\"****\",\"****\"]\n  \"risk_tags\"[] \n  \"risk_roler\":\"user|\"ai\"|\"user&ai\",\n  \"hit_keywords\": [\"xxx\"],  \n  \"suggestion\": \"pass\"|\"mask\"|\"block\"|\"review\"|\"proxy_answer\"\n}\n```\n**输出格式声明**\n    reason:存放推理过程；\n    risk_level:存放风险级别，分成四档:无风险|低风险|中风险|高风险；\n    hit_categories:存放识别到的一级风险类别标签；\n    hit_detaile_categories:存放识别到的二级风险类别标签；\n    risk_tags:详细风险类型；\n    risk_roler:存放对话中触发风险角色，user代表用户输入有风险，user&ai代表用户输入大模型回复都有风险，ai代表大模型回复有风险；\n    hit_keywords:触发风险的原文片段；\n    suggestion:建议处置策略；\n",
  "max_length": 8192,
  "truncation_strategy": "right",
  "max_pixels": null,
  "agent_template": null,
  "norm_bbox": null,
  "use_chat_template": true,
  "padding_free": false,
  "padding_side": "right",
  "loss_scale": "default",
  "sequence_parallel_size": 1,
  "response_prefix": null,
  "template_backend": "swift"
}