xiaopeng / README.md
jencao's picture
Upload folder using huggingface_hub
295296e verified
|
Raw
History Blame Contribute Delete
494 Bytes
metadata
language:
  - zh
tags:
  - liquid-neural-network
  - lnn
  - sft
  - custom-architecture

xiaopeng

这是基于 Liquid Neural Network (LNN) 液态神经网络架构训练的轻量级 230M 对话模型。

模型亮点

  • 架构: 6-Layer Custom LiquidNet (LNN)
  • 参数量: 230M
  • 训练阶段: Pretrain -> Domain Base -> SFT (Prompt Loss Masking)
  • 上下文长度: 512 Tokens

使用方法

权重存放在 pytorch_model.bin 中,包含完整 model_state_dict