Update README.md
Browse files
README.md
CHANGED
|
@@ -6,16 +6,3 @@ license: unknown
|
|
| 6 |
|
| 7 |
**検証用のモデル置き場です。正しく動作しないものがあります。**
|
| 8 |
|
| 9 |
-
pfn-plamo
|
| 10 |
-
llamaモデルベースなので、モデルの変換はできてそうかも
|
| 11 |
-
Grouped-Query Attentionはllama.cppで対応しているからできてそうな感じはするけど、出力が荒ぶる。
|
| 12 |
-
|
| 13 |
-
llama.cpp のllm_build_plamo内
|
| 14 |
-
convert-plamo.py 変換
|
| 15 |
-
|
| 16 |
-
~~~bash
|
| 17 |
-
git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
|
| 18 |
-
cd llama.cpp
|
| 19 |
-
make -j
|
| 20 |
-
./main -m 'pfn-plamo-13b-q4_0.gguf' -n 128 -p '今日の夕飯のレシピをご紹介します。' --top_p 0.9 --temp 0.7
|
| 21 |
-
~~~
|
|
|
|
| 6 |
|
| 7 |
**検証用のモデル置き場です。正しく動作しないものがあります。**
|
| 8 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|