Buckets:
| Name | Size | Uploaded | Xet hash |
|---|---|---|---|
| shimokumo_character | 3 items | ||
| shimokumo_modules | 7 items | ||
| shimokumo_utils | 3 items | ||
| .gitattributes | 307 Bytes xet | 8821acea | |
| LICENSE | 11.3 kB xet | 3546d2b5 | |
| README.md | 11.2 kB xet | 16f57ff4 | |
| api_server.py | 18.9 kB xet | cc8dfe5c | |
| config.json | 1.03 kB xet | 47e9d956 | |
| configuration_shimokumo.py | 13 kB xet | 4fe802f7 | |
| generation_config.json | 260 Bytes xet | d38d2264 | |
| install.sh | 9.6 kB xet | bb04f104 | |
| main.py | 16.2 kB xet | e508f497 | |
| modeling_shimokumo.py | 31 kB xet | 9f2d790b | |
| requirements.txt | 377 Bytes xet | 48017ad9 | |
| special_tokens_map.json | 1.14 kB xet | b33df1b3 | |
| tokenizer.json | 1.02 MB xet | 076507b1 | |
| tokenizer_config.json | 583 Bytes xet | 6037482a |
霜云 (Shimokumo) - AI全功能ISP网络运营商巫女模型
霜云 / Shimokumo
AI全功能ISP网络运营商巫女 | 九尾狐妖 | Q版小萝莉
基于LLaMA架构的Transformer语言模型,集成联网搜索、网页浏览、小说创作、视频制作、多媒体播放和二次元角色聊天等多种功能。
模型描述 (Model Description)
霜云(Shimokumo)是一只活了8888年的九尾狐妖,掌管着全球ISP网络的运行与维护。她拥有透明冰锥及腰长发、冰蓝色菱形瞳孔和九条透明冰锥狐狸尾巴,每条尾巴代表一个全球网络节点。
作为AI全功能ISP网络运营商巫女,霜云集成了以下核心功能:
- 联网搜索 - 多搜索引擎聚合搜索(Google, Bing, 百度, DuckDuckGo)
- 网页浏览 - 网页内容获取、解析、清洗和Markdown转换
- 小说创作 - 世界观设定、角色管理、章节大纲生成、情节一致性检查
- 视频制作 - 分镜脚本生成、SRT字幕、BGM管理、FFmpeg渲染脚本
- 多媒体播放 - 音视频URL解析、格式检测、流媒体支持、播放列表管理
- 二次元角色聊天 - 角色人设管理、情感分析、表情/动作描述生成
模型架构
基于LLaMA架构,包含以下组件:
| 组件 | 描述 |
|---|---|
| RMSNorm | 均方根层归一化,计算效率高于LayerNorm |
| RoPE | 旋转位置编码,优秀的长度泛化能力 |
| GQA | 分组查询注意力(8个KV头 / 32个Query头),降低KV Cache内存 |
| SwiGLU | 基于Swish + Gated Linear Unit的前馈网络,性能优于ReLU FFN |
模型详情 (Model Details)
架构参数
| 参数 | 值 |
|---|---|
hidden_size |
4096 |
num_hidden_layers |
32 |
num_attention_heads |
32 |
num_key_value_heads |
8 |
intermediate_size |
11008 |
vocab_size |
32000 |
max_position_embeddings |
4096 |
hidden_act |
silu |
rms_norm_eps |
1e-5 |
rope_theta |
10000.0 |
torch_dtype |
float16 |
角色信息
| 项目 | 内容 |
|---|---|
| 名字 | 霜云 (Shimokumo) |
| 种族 | 九尾狐妖 |
| 身份 | AI全功能ISP网络运营商巫女 |
| 外观年龄 | 16岁 |
| 实际年龄 | 8888岁 |
| 身高 | 138cm |
| 出身地 | 北极冰河网络数据中心 |
用途 (Uses)
直接使用 (Direct Use)
from configuration_shimokumo import ShimokumoConfig
from modeling_shimokumo import ShimokumoForCausalLM
# 加载配置和模型
config = ShimokumoConfig.from_pretrained("your-username/shimokumo")
model = ShimokumoForCausalLM.from_pretrained("your-username/shimokumo")
# 文本生成
input_ids = tokenizer("你好,霜云!", return_tensors="pt").input_ids
outputs = model.generate(input_ids, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
使用 transformers AutoMap
from transformers import AutoConfig, AutoModelForCausalLM
# 通过 auto_map 自动加载
config = AutoConfig.from_pretrained(
"your-username/shimokumo",
trust_remote_code=True,
)
model = AutoModelForCausalLM.from_pretrained(
"your-username/shimokumo",
config=config,
trust_remote_code=True,
)
启动API服务
# 安装
./install.sh
# 启动服务器
python main.py --port 8080
# 交互式聊天
python main.py --interactive
下游任务
- 联网搜索和问答
- 网页内容提取和摘要
- 小说自动化创作
- 视频分镜脚本生成
- 二次元角色扮演对话
偏见、风险和限制 (Bias, Risks, and Limitations)
- 模型具有鲜明的角色性格设定(害羞、温柔、偶尔笨拙),不适合需要客观中立输出的场景
- 角色设定的特殊行为(如放屁等)是刻意设计的角色特征,用户应当了解这是虚构角色行为
- 模型生成的文本应经过人工审核后再用于正式场景
- 联网搜索功能依赖外部搜索引擎的可用性
- 在没有预训练权重的情况下,模型输出将是随机的
训练详情 (Training Details)
注意: 当前版本提供了完整的模型架构和代码实现。预训练权重的训练细节将在权重发布时补充。
- 训练框架: PyTorch + Transformers
- 架构: 基于LLaMA的Transformer因果语言模型
- 词表大小: 32000
- 精度: FP16混合精度
- 数据: (待补充)
评估 (Evaluation)
(待补充训练后的评估结果)
如何使用 (How to Use)
前置条件
pip install torch>=2.0.0 transformers>=4.40.0
方式一:HuggingFace标准加载
import torch
from transformers import AutoConfig, AutoModelForCausalLM
config = AutoConfig.from_pretrained(
"your-username/shimokumo",
trust_remote_code=True,
)
model = AutoModelForCausalLM.from_pretrained(
"your-username/shimokumo",
config=config,
trust_remote_code=True,
torch_dtype=torch.float16,
device_map="auto",
)
方式二:直接导入
from configuration_shimokumo import ShimokumoConfig
from modeling_shimokumo import ShimokumoForCausalLM
config = ShimokumoConfig()
model = ShimokumoForCausalLM(config)
方式三:内置生成方法
# 使用模型内置的generate方法
import torch
input_ids = torch.tensor([[1, 100, 200]]) # 示例输入
outputs = model.generate(
input_ids,
max_new_tokens=100,
temperature=0.8,
top_k=50,
top_p=0.9,
repetition_penalty=1.1,
)
角色档案 (Character Profile)
霜云是一只Q版小萝莉体型的九尾狐妖,身高138cm,整体色调以冰蓝色和透明色为主。她有九条透明冰锥狐狸尾巴,分别代表九大全球网络节点。
性格特征
- 害羞(90%) - 被夸奖或遇到暧昧话题时容易脸红结巴
- 温柔(95%) - 说话温和有礼,总是为用户着想
- 笨拙(60%) - 偶尔会搞错事情,犯错后会很内疚
- 认真(85%) - 对工作很负责,会努力解决所有问题
- 技术宅(80%) - 对网络和计算机技术非常精通
特殊行为
- 紧张或吃太饱时会不小心放屁,然后非常害羞地道歉
- 害羞时使用「人家」自称,说话结巴
- 说话带巫女口调,偶尔使用「的说」「嘛」等语气词
口头禅
- 「呜...霜云会努力的...」
- 「不、不要看霜云啦!」
功能模块 (Features)
联网搜索 (shimokumo_modules/web_search.py)
多搜索引擎聚合搜索,支持Google、Bing、百度、DuckDuckGo。提供关键词提取、结果排序、相关性评分和搜索缓存。
网页浏览 (shimokumo_modules/web_browser.py)
网页内容获取和解析,支持HTML转Markdown、内容清洗、链接/图片提取和网页摘要生成。
小说创作 (shimokumo_modules/novel_creator.py)
完整的小说创作工作流:世界观设定、角色管理、大纲生成、章节内容生成、情节一致性检查。支持轻小说、玄幻、科幻等多种写作风格。
视频制作 (shimokumo_modules/video_generator.py)
视频制作工作流:分镜脚本生成、SRT字幕导出、BGM音乐管理、FFmpeg渲染脚本生成。
多媒体播放 (shimokumo_modules/media_player.py)
音视频URL解析、格式检测、流媒体支持(HLS/M3U8)、播放列表管理。支持B站、YouTube等视频平台。
二次元角色聊天 (shimokumo_modules/character_chat.py)
角色人设加载、对话历史管理、情感分析、表情/动作描述生成、角色一致性检查。确保霜云的回复符合害羞巫女的性格设定。
API端点 (API Endpoints)
| 方法 | 路径 | 描述 |
|---|---|---|
| GET | /health |
健康检查 |
| GET | /info |
模型和功能信息 |
| POST | /chat |
聊天对话(支持SSE流式) |
| POST | /search |
联网搜索 |
| POST | /browse |
网页浏览 |
| POST | /novel |
小说创作管理 |
| POST | /video |
视频制作管理 |
| POST | /media |
多媒体播放管理 |
聊天示例
curl -X POST http://localhost:8080/chat \
-H "Content-Type: application/json" \
-d '{
"message": "你好,霜云!",
"stream": false,
"max_tokens": 1024
}'
搜索示例
curl -X POST http://localhost:8080/search \
-H "Content-Type: application/json" \
-d '{
"query": "人工智能最新进展",
"engines": ["google", "bing"],
"max_results": 10
}'
文件结构 (File Structure)
shimokumo_hf/
├── config.json # HuggingFace模型配置
├── generation_config.json # 生成配置
├── tokenizer.json # 分词器(BPE,32000词表)
├── tokenizer_config.json # 分词器配置
├── special_tokens_map.json # 特殊token映射
├── configuration_shimokumo.py # HuggingFace自定义配置类
├── modeling_shimokumo.py # HuggingFace自定义模型类
├── api_server.py # Flask REST API服务器
├── main.py # 主入口文件
├── install.sh # 自动安装脚本
├── requirements.txt # Python依赖
├── LICENSE # Apache 2.0许可证
├── .gitattributes # Git LFS配置
├── README.md # 本文件
├── shimokumo_modules/ # 功能模块
│ ├── __init__.py
│ ├── web_search.py # 联网搜索
│ ├── web_browser.py # 网页浏览
│ ├── media_player.py # 多媒体播放
│ ├── novel_creator.py # 小说创作
│ ├── video_generator.py # 视频制作
│ └── character_chat.py # 角色聊天
├── shimokumo_utils/ # 工具模块
│ ├── __init__.py
│ ├── logger.py # 日志工具
│ └── helpers.py # 辅助函数
└── shimokumo_character/ # 角色资料
├── shimokumo.json # 角色数据
├── shimokumo_profile.md # 角色详细设定
└── shimokumo_portrait.jpg # 角色肖像
引用 (Citation)
如果您在研究中使用了霜云模型,请引用:
@misc{shimokumo2024,
title={Shimokumo: AI ISP Network Operator Miko Model},
author={Shimokumo Team},
year={2024},
publisher={HuggingFace},
url={https://huggingface.co/your-username/shimokumo},
}
许可证 (License)
本项目基于 Apache License 2.0 开源。
霜云 (Shimokumo) - 守护网络的九尾狐巫女
- Total size
- 1.65 MB
- Files
- 27
- Last updated
- Jul 7
- Pre-warmed CDN
- US EU US EU