1.65 MB
27 files
Updated 26 days ago
Name
Size
shimokumo_character
shimokumo_modules
shimokumo_utils
.gitattributes307 Bytes
xet
LICENSE11.3 kB
xet
README.md11.2 kB
xet
api_server.py18.9 kB
xet
config.json1.03 kB
xet
configuration_shimokumo.py13 kB
xet
generation_config.json260 Bytes
xet
install.sh9.6 kB
xet
main.py16.2 kB
xet
modeling_shimokumo.py31 kB
xet
requirements.txt377 Bytes
xet
special_tokens_map.json1.14 kB
xet
tokenizer.json1.02 MB
xet
tokenizer_config.json583 Bytes
xet
README.md

霜云 (Shimokumo) - AI全功能ISP网络运营商巫女模型

霜云 / Shimokumo

AI全功能ISP网络运营商巫女 | 九尾狐妖 | Q版小萝莉

基于LLaMA架构的Transformer语言模型,集成联网搜索、网页浏览、小说创作、视频制作、多媒体播放和二次元角色聊天等多种功能。

配置 | 模型实现 | 安装 | 许可证


模型描述 (Model Description)

霜云(Shimokumo)是一只活了8888年的九尾狐妖,掌管着全球ISP网络的运行与维护。她拥有透明冰锥及腰长发、冰蓝色菱形瞳孔和九条透明冰锥狐狸尾巴,每条尾巴代表一个全球网络节点。

作为AI全功能ISP网络运营商巫女,霜云集成了以下核心功能:

  • 联网搜索 - 多搜索引擎聚合搜索(Google, Bing, 百度, DuckDuckGo)
  • 网页浏览 - 网页内容获取、解析、清洗和Markdown转换
  • 小说创作 - 世界观设定、角色管理、章节大纲生成、情节一致性检查
  • 视频制作 - 分镜脚本生成、SRT字幕、BGM管理、FFmpeg渲染脚本
  • 多媒体播放 - 音视频URL解析、格式检测、流媒体支持、播放列表管理
  • 二次元角色聊天 - 角色人设管理、情感分析、表情/动作描述生成

模型架构

基于LLaMA架构,包含以下组件:

组件 描述
RMSNorm 均方根层归一化,计算效率高于LayerNorm
RoPE 旋转位置编码,优秀的长度泛化能力
GQA 分组查询注意力(8个KV头 / 32个Query头),降低KV Cache内存
SwiGLU 基于Swish + Gated Linear Unit的前馈网络,性能优于ReLU FFN

模型详情 (Model Details)

架构参数

参数
hidden_size 4096
num_hidden_layers 32
num_attention_heads 32
num_key_value_heads 8
intermediate_size 11008
vocab_size 32000
max_position_embeddings 4096
hidden_act silu
rms_norm_eps 1e-5
rope_theta 10000.0
torch_dtype float16

角色信息

项目 内容
名字 霜云 (Shimokumo)
种族 九尾狐妖
身份 AI全功能ISP网络运营商巫女
外观年龄 16岁
实际年龄 8888岁
身高 138cm
出身地 北极冰河网络数据中心

用途 (Uses)

直接使用 (Direct Use)

from configuration_shimokumo import ShimokumoConfig
from modeling_shimokumo import ShimokumoForCausalLM

# 加载配置和模型
config = ShimokumoConfig.from_pretrained("your-username/shimokumo")
model = ShimokumoForCausalLM.from_pretrained("your-username/shimokumo")

# 文本生成
input_ids = tokenizer("你好,霜云!", return_tensors="pt").input_ids
outputs = model.generate(input_ids, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

使用 transformers AutoMap

from transformers import AutoConfig, AutoModelForCausalLM

# 通过 auto_map 自动加载
config = AutoConfig.from_pretrained(
    "your-username/shimokumo",
    trust_remote_code=True,
)
model = AutoModelForCausalLM.from_pretrained(
    "your-username/shimokumo",
    config=config,
    trust_remote_code=True,
)

启动API服务

# 安装
./install.sh

# 启动服务器
python main.py --port 8080

# 交互式聊天
python main.py --interactive

下游任务

  • 联网搜索和问答
  • 网页内容提取和摘要
  • 小说自动化创作
  • 视频分镜脚本生成
  • 二次元角色扮演对话

偏见、风险和限制 (Bias, Risks, and Limitations)

  • 模型具有鲜明的角色性格设定(害羞、温柔、偶尔笨拙),不适合需要客观中立输出的场景
  • 角色设定的特殊行为(如放屁等)是刻意设计的角色特征,用户应当了解这是虚构角色行为
  • 模型生成的文本应经过人工审核后再用于正式场景
  • 联网搜索功能依赖外部搜索引擎的可用性
  • 在没有预训练权重的情况下,模型输出将是随机的

训练详情 (Training Details)

注意: 当前版本提供了完整的模型架构和代码实现。预训练权重的训练细节将在权重发布时补充。

  • 训练框架: PyTorch + Transformers
  • 架构: 基于LLaMA的Transformer因果语言模型
  • 词表大小: 32000
  • 精度: FP16混合精度
  • 数据: (待补充)

评估 (Evaluation)

(待补充训练后的评估结果)


如何使用 (How to Use)

前置条件

pip install torch>=2.0.0 transformers>=4.40.0

方式一:HuggingFace标准加载

import torch
from transformers import AutoConfig, AutoModelForCausalLM

config = AutoConfig.from_pretrained(
    "your-username/shimokumo",
    trust_remote_code=True,
)
model = AutoModelForCausalLM.from_pretrained(
    "your-username/shimokumo",
    config=config,
    trust_remote_code=True,
    torch_dtype=torch.float16,
    device_map="auto",
)

方式二:直接导入

from configuration_shimokumo import ShimokumoConfig
from modeling_shimokumo import ShimokumoForCausalLM

config = ShimokumoConfig()
model = ShimokumoForCausalLM(config)

方式三:内置生成方法

# 使用模型内置的generate方法
import torch
input_ids = torch.tensor([[1, 100, 200]])  # 示例输入
outputs = model.generate(
    input_ids,
    max_new_tokens=100,
    temperature=0.8,
    top_k=50,
    top_p=0.9,
    repetition_penalty=1.1,
)

角色档案 (Character Profile)

霜云是一只Q版小萝莉体型的九尾狐妖,身高138cm,整体色调以冰蓝色和透明色为主。她有九条透明冰锥狐狸尾巴,分别代表九大全球网络节点。

性格特征

  • 害羞(90%) - 被夸奖或遇到暧昧话题时容易脸红结巴
  • 温柔(95%) - 说话温和有礼,总是为用户着想
  • 笨拙(60%) - 偶尔会搞错事情,犯错后会很内疚
  • 认真(85%) - 对工作很负责,会努力解决所有问题
  • 技术宅(80%) - 对网络和计算机技术非常精通

特殊行为

  • 紧张或吃太饱时会不小心放屁,然后非常害羞地道歉
  • 害羞时使用「人家」自称,说话结巴
  • 说话带巫女口调,偶尔使用「的说」「嘛」等语气词

口头禅

  • 「呜...霜云会努力的...」
  • 「不、不要看霜云啦!」

功能模块 (Features)

联网搜索 (shimokumo_modules/web_search.py)

多搜索引擎聚合搜索,支持Google、Bing、百度、DuckDuckGo。提供关键词提取、结果排序、相关性评分和搜索缓存。

网页浏览 (shimokumo_modules/web_browser.py)

网页内容获取和解析,支持HTML转Markdown、内容清洗、链接/图片提取和网页摘要生成。

小说创作 (shimokumo_modules/novel_creator.py)

完整的小说创作工作流:世界观设定、角色管理、大纲生成、章节内容生成、情节一致性检查。支持轻小说、玄幻、科幻等多种写作风格。

视频制作 (shimokumo_modules/video_generator.py)

视频制作工作流:分镜脚本生成、SRT字幕导出、BGM音乐管理、FFmpeg渲染脚本生成。

多媒体播放 (shimokumo_modules/media_player.py)

音视频URL解析、格式检测、流媒体支持(HLS/M3U8)、播放列表管理。支持B站、YouTube等视频平台。

二次元角色聊天 (shimokumo_modules/character_chat.py)

角色人设加载、对话历史管理、情感分析、表情/动作描述生成、角色一致性检查。确保霜云的回复符合害羞巫女的性格设定。


API端点 (API Endpoints)

方法 路径 描述
GET /health 健康检查
GET /info 模型和功能信息
POST /chat 聊天对话(支持SSE流式)
POST /search 联网搜索
POST /browse 网页浏览
POST /novel 小说创作管理
POST /video 视频制作管理
POST /media 多媒体播放管理

聊天示例

curl -X POST http://localhost:8080/chat \
  -H "Content-Type: application/json" \
  -d '{
    "message": "你好,霜云!",
    "stream": false,
    "max_tokens": 1024
  }'

搜索示例

curl -X POST http://localhost:8080/search \
  -H "Content-Type: application/json" \
  -d '{
    "query": "人工智能最新进展",
    "engines": ["google", "bing"],
    "max_results": 10
  }'

文件结构 (File Structure)

shimokumo_hf/
├── config.json                  # HuggingFace模型配置
├── generation_config.json        # 生成配置
├── tokenizer.json                # 分词器(BPE,32000词表)
├── tokenizer_config.json         # 分词器配置
├── special_tokens_map.json       # 特殊token映射
├── configuration_shimokumo.py    # HuggingFace自定义配置类
├── modeling_shimokumo.py         # HuggingFace自定义模型类
├── api_server.py                 # Flask REST API服务器
├── main.py                       # 主入口文件
├── install.sh                    # 自动安装脚本
├── requirements.txt              # Python依赖
├── LICENSE                       # Apache 2.0许可证
├── .gitattributes                # Git LFS配置
├── README.md                     # 本文件
├── shimokumo_modules/            # 功能模块
│   ├── __init__.py
│   ├── web_search.py             # 联网搜索
│   ├── web_browser.py            # 网页浏览
│   ├── media_player.py          # 多媒体播放
│   ├── novel_creator.py          # 小说创作
│   ├── video_generator.py       # 视频制作
│   └── character_chat.py         # 角色聊天
├── shimokumo_utils/              # 工具模块
│   ├── __init__.py
│   ├── logger.py                 # 日志工具
│   └── helpers.py                # 辅助函数
└── shimokumo_character/          # 角色资料
    ├── shimokumo.json            # 角色数据
    ├── shimokumo_profile.md      # 角色详细设定
    └── shimokumo_portrait.jpg    # 角色肖像

引用 (Citation)

如果您在研究中使用了霜云模型,请引用:

@misc{shimokumo2024,
  title={Shimokumo: AI ISP Network Operator Miko Model},
  author={Shimokumo Team},
  year={2024},
  publisher={HuggingFace},
  url={https://huggingface.co/your-username/shimokumo},
}

许可证 (License)

本项目基于 Apache License 2.0 开源。


霜云 (Shimokumo) - 守护网络的九尾狐巫女

Total size
1.65 MB
Files
27
Last updated
Jul 7
Pre-warmed CDN
US EU US EU

Contributors