| # Youtu-LLM-A7B-Base 视觉（图文）冒烟测试 | |
| # | |
| # 用法： | |
| # bash test_vision.sh # 用内置报纸图 | |
| # bash test_vision.sh /path/to/img.jpg # 用指定图片 | |
| # | |
| # 前置：models/youtu-moe-a7b-Q4_K_M.gguf + models/youtu-vl-mmproj-f16.gguf | |
| set -euo pipefail | |
| ROOT="$(cd "$(dirname "${BASH_SOURCE[0]}")" && pwd)" | |
| CLI="$ROOT/llama.cpp/build/bin/llama-mtmd-cli" | |
| MODEL="$ROOT/models/youtu-moe-a7b-Q4_K_M.gguf" | |
| MMPROJ="$ROOT/models/youtu-vl-mmproj-f16.gguf" | |
| IMG="${1:-$ROOT/llama.cpp/tools/mtmd/test-1.jpeg}" | |
| for f in "$CLI" "$MODEL" "$MMPROJ" "$IMG"; do | |
| [ -e "$f" ] || { echo "缺少 $f" >&2; exit 1; } | |
| done | |
| # 提示词里的 <|vision_start|>/<|vision_end|> 是必须的：官方 processor 用它们包裹 | |
| # 图像占位（image_token_id=128017）。<__media__> 会被 mtmd 替换成视觉 embedding 块， | |
| # 因此不要在提示词里再写 <|image_pad|>。chat_template.jinja 本身不含图像分支， | |
| # 所以这里不走 --jinja，直接给裸提示词。 | |
| PROMPT="<|vision_start|><__media__><|vision_end|>描述这张图片的内容。" | |
| echo "图片: $IMG" | |
| # 默认关闭逐批次模态诊断（会插在输出流里）；需要时用 | |
| # YOUTU_DEBUG_MODALITY=1 bash test_vision.sh | |
| # 打开后应看到图像批次 vision 数 == 图像 token 数、其余批次 vision=0。 | |
| # | |
| # 输出过滤分两步： | |
| # 1. 去掉带 4 段时间戳的日志行（格式 0.05.132.418 I ...） | |
| # 2. strip_think.py --from-first-think：跳过 llama-mtmd-cli 夹带的 3 行 | |
| # chat template 示例，从正文处开始，并剥掉开头的 </think> 残留 | |
| # （视觉提示词里没有 <｜Assistant｜>，但模型仍会先吐 1~2 个） | |
| YOUTU_DEBUG_MODALITY="${YOUTU_DEBUG_MODALITY:-0}" "$CLI" \ | |
| -m "$MODEL" --mmproj "$MMPROJ" --image "$IMG" \ | |
| -p "$PROMPT" -n 200 -c 4096 --temp 0.2 -ngl 99 2>&1 \ | |
| | grep -vE "^[0-9]+(\.[0-9]+)+ [A-Z] " \ | |
| | python3 "$ROOT/strip_think.py" --from-first-think | |