Video-Text-to-Text
Transformers
Safetensors
English
Chinese
mllama
text-generation
multimodal
video
vision-language
sft
custom_code
text-generation-inference
Instructions to use OpenMOSS-Team/moss-video-preview-sft with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use OpenMOSS-Team/moss-video-preview-sft with Transformers:
# Load model directly from transformers import AutoProcessor, AutoModelForCausalLM processor = AutoProcessor.from_pretrained("OpenMOSS-Team/moss-video-preview-sft", trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained("OpenMOSS-Team/moss-video-preview-sft", trust_remote_code=True, device_map="auto") - Notebooks
- Google Colab
- Kaggle
Upload folder using huggingface_hub
Browse files
README.md
CHANGED
|
@@ -36,13 +36,5 @@ MOSS-Video-SFT 是经过两阶段预训练与指令微调(SFT)得到的 stre
|
|
| 36 |
- **高效池化策略**:采用 `average` 池化模式配合 `stride=4`,平衡计算效率与特征保留。
|
| 37 |
- **Flash Attention 2**:全流程支持 FA2 加速,优化长序列训练显存占用。
|
| 38 |
|
| 39 |
-
## 📖 使用指南
|
| 40 |
-
|
| 41 |
-
### 推理
|
| 42 |
-
可以使用 `llamafactory-cli` 直接进行对话:
|
| 43 |
-
```bash
|
| 44 |
-
llamafactory-cli chat --model_name_or_path /path/to/moss-video-sft --template mllama
|
| 45 |
-
```
|
| 46 |
-
|
| 47 |
### 进一步微调
|
| 48 |
参考 `examples/streaming_video_real_time_sft` 目录下的配置文件进行自定义 SFT。
|
|
|
|
| 36 |
- **高效池化策略**:采用 `average` 池化模式配合 `stride=4`,平衡计算效率与特征保留。
|
| 37 |
- **Flash Attention 2**:全流程支持 FA2 加速,优化长序列训练显存占用。
|
| 38 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 39 |
### 进一步微调
|
| 40 |
参考 `examples/streaming_video_real_time_sft` 目录下的配置文件进行自定义 SFT。
|