Update README.md

README.md

@@ -1,3 +1,35 @@
 ---
 license: llama2
 ---
+
+# youri-2x7b_dev
+
+This model is a Mixture of Experts (MoE) merger of the following two models:
+- [rinna/youri-7b-instruction](https://huggingface.co/rinna/youri-7b-instruction)
+- [rinna/youri-7b-chat](https://huggingface.co/rinna/youri-7b-chat)
+
+## 🧩 Configuration
+
+The model has been made with a custom version of the [mergekit](https://github.com/cg123/mergekit) library (mixtral branch) and the following configuration:
+
+```yaml
+base_model: rinna/youri-7b-chat
+gate_mode: hidden # one of "hidden", "cheap_embed", or "random"
+dtype: bfloat16 # output dtype (float32, float16, or bfloat16)
+experts:
+  - source_model: rinna/youri-7b-chat
+    positive_prompts: 
+      - "質問と回答の選択肢を入力として受け取り、選択肢から回答を選択してください。"
+      - "前提と仮説の関係を含意、矛盾、中立の中から回答してください。"
+      - "以下のテキストを、ポジティブまたはネガティブの感情クラスのいずれかに分類してください。"
+      - "以下は、タスクを説明する指示と、文脈のある入力の組み合わせです。要求を適切に満たす応答を書きなさい。"
+  - source_model: rinna/youri-7b-instruction
+    positive_prompts: 
+     - "質問に対する回答を題名と文章から一言で抽出してください。回答は名詞で答えてください。"
+     - "与えられたニュース記事を要約してください。"
+     - "与えられた文が文法的であるかを回答してください。"
+```
+
+The `positive_prompts` in the above configuration are extracted from the instructions of benchmarks that each model excels in. 
+For reference on the benchmarks for each model, please see the LM Benchmark at [rinnakk's LM Benchmark](https://rinnakk.github.io/research/benchmarks/lm/index.html). 
+These benchmarks provide a detailed overview of the areas where each individual model performs particularly well, guiding the effective use of the merged model in various natural language processing tasks.