mmnga commited on
Commit
cc7ac35
·
1 Parent(s): 0152a5f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +0 -13
README.md CHANGED
@@ -6,16 +6,3 @@ license: unknown
6
 
7
  **検証用のモデル置き場です。正しく動作しないものがあります。**
8
 
9
- pfn-plamo
10
- llamaモデルベースなので、モデルの変換はできてそうかも
11
- Grouped-Query Attentionはllama.cppで対応しているからできてそうな感じはするけど、出力が荒ぶる。
12
-
13
- llama.cpp のllm_build_plamo内
14
- convert-plamo.py 変換
15
-
16
- ~~~bash
17
- git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
18
- cd llama.cpp
19
- make -j
20
- ./main -m 'pfn-plamo-13b-q4_0.gguf' -n 128 -p '今日の夕飯のレシピをご紹介します。' --top_p 0.9 --temp 0.7
21
- ~~~
 
6
 
7
  **検証用のモデル置き場です。正しく動作しないものがあります。**
8