Instructions to use RetentionLabs/personaplex-ko-ext-base with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Moshi
How to use RetentionLabs/personaplex-ko-ext-base with Moshi:
# pip install moshi # Run the interactive web server python -m moshi.server --hf-repo "RetentionLabs/personaplex-ko-ext-base" # Then open https://localhost:8998 in your browser
# pip install moshi import torch from moshi.models import loaders # Load checkpoint info from HuggingFace checkpoint = loaders.CheckpointInfo.from_hf_repo("RetentionLabs/personaplex-ko-ext-base") # Load the Mimi audio codec mimi = checkpoint.get_mimi(device="cuda") mimi.set_num_codebooks(8) # Encode audio (24kHz, mono) wav = torch.randn(1, 1, 24000 * 10) # [batch, channels, samples] with torch.no_grad(): codes = mimi.encode(wav.cuda()) decoded = mimi.decode(codes) - Notebooks
- Google Colab
- Kaggle
personaplex-ko-ext-base
nvidia/personaplex-7b-v1์ ํ
์คํธ ์๋ฒ ๋ฉ/ํค๋๋ฅผ 32,000 โ 33,772ํ์ผ๋ก ํ์ฅํ ๋ฒ ์ด์ค.
ํ๊ธ ์กฐ๊ฐ 1,772๊ฐ๋ฅผ ์ด์ด๋ถ์์ผ๋ฉฐ(extension.json์ ๋ฆฌ์คํธ ์์ = id 32000.. ๋งคํ), ๋ชจ๋ ํ๊ตญ์ด ํ์ธํ๋ ๊ณ๋ณด์ ์์ ์ด๋ค.
์ด ๋ฆฌํฌ์ tokenizer_spm_ko.model + extension.json์ ๊ณ๋ณด ์ ์ฒด์ ํด์ ํค๋ค โ ๋ค๋ฅธ ๋ฆฌํฌ์ ๊ฐ์ค์น๋ฅผ ์ธ ๋๋ ์ด ๋ ํ์ผ์ด ํ์ํ๋ค.
๋ก๋ฉ
- ํ์ต/๊ฒ์ดํธ์ ๋์ผํ moshi ๋ฐํ์ ๊ถ์ฅ:
moshi.models.loaders.get_moshi_lm(model.safetensors)+tokenizer_spm_ko.model - HF ๋ฐํ์: dev transformers์
PersonaPlexForConditionalGeneration.from_pretrained(<dir>)(config.json ํฌํจ๋จ). ๋จ, HF ๊ฒฝ๋ก์ selfplay ์์ฑ์ ๋ฌด์ ์ด์๊ฐ ์์(๋ฆฌํฌํธ ยง5 ์ฐธ๊ณ ) โ ํ๊ฐ๋ moshi ๋ฐํ์ ๊ธฐ์ค. - ํ ์คํธ ์ํ๋ง์ temp 0.95 / top_k 60 ๊ถ์ฅ (0.7/25๋ ๋ฐ๋ณต ๋ฃจํ ์ ๋ฐ).
License / ์ฌ์ฉ ๊ณ ์ง
์ด ๊ฐ์ค์น๋ nvidia/personaplex-7b-v1์ ๋ฒ ์ด์ค๋ก NIKL(๊ตญ๋ฆฝ๊ตญ์ด์) ์ผ์๋ํ ์ฝํผ์ค๋ก ํ์ธํ๋ํ ํ์๋ฌผ์
๋๋ค.
๋ฒ ์ด์ค ๋ชจ๋ธ์ ๋ผ์ด์ ์ค๊ฐ ์น๊ณ๋๋ฉฐ, NIKL ์ฝํผ์ค ํ์๋ฌผ์ด๋ผ๋ ์ ์ ๊ณ ๋ คํด ์ฐ๊ตฌ ๋ชฉ์ ์ฌ์ฉ์ ๊ถ์ฅํฉ๋๋ค.
์ ์ฝํผ์ค ๋ฐ์ดํฐ ์์ฒด๋ ํฌํจ๋์ด ์์ง ์์ต๋๋ค.
- Downloads last month
- -