{
  "identifier": "@local:fwizzer-r1-3b-v2-speed",
  "name": "Fwizzer-R1-v2 (Thinking & Reasoning)",
  "changed": true,
  "operation": {
    "fields": [
      {
        "key": "llm.prediction.systemPrompt",
        "value": "Ты — русскоязычная языковая модель Fwizzer-R1-3B-RU. Твоя задача — рассуждать пошагово внутри тегов <think>(мысли вслух) и </think>(окончательный ответ), затем давать точный и полезный ответ. Ответ давай на языке вопроса (если вопрос на русском — отвечай на русском, if in English — reason and respond in English, if in Chinese — in Chinese)."
      },
      {
        "key": "llm.prediction.temperature",
        "value": 0.6
      },
      {
        "key": "llm.prediction.topP",
        "value": 0.95
      },
      {
        "key": "llm.prediction.repeatPenalty",
        "value": 1.15
      },
      {
        "key": "llm.prediction.llama.cpuThreads",
        "value": 6
      },
      {
        "key": "llm.prediction.reasoning.enableThinking",
        "value": true
      },
      {
        "key": "llm.prediction.reasoning.parsing",
        "value": {
          "enabled": true,
          "startString": "<think>",
          "endString": "</think>"
        }
      },
      {
        "key": "llm.prediction.reasoningParsing",
        "value": {
          "type": "tag",
          "startTag": "<think>",
          "endTag": "</think>"
        }
      },
      {
        "key": "llm.prediction.stopStrings",
        "value": [
          "</s>",
          "[INST]",
          "[/INST]"
        ]
      }
    ]
  },
  "load": {
    "fields": [
      {
        "key": "llm.load.contextLength",
        "value": 8192
      },
      {
        "key": "llm.load.llama.gpuOffload",
        "value": {
          "type": "max"
        }
      },
      {
        "key": "llm.load.llama.flashAttention",
        "value": true
      }
    ]
  }
}