Chapter 1 · Transformers

Disaster Tweet Classifier

在浏览器本地运行 INT8 量化模型。输入文本不会上传到服务器,页面无需 Hugging Face CPU/GPU 实例。

⚡ Browser-side inference · no server CPU/GPU

输入文本并分类

正在加载量化模型…

尝试真实测试集样例

以下 ID 和文本来自原始测试集。点击样例加载文本,再进行本地分类。

页面使用与训练一致的 BERT 词表和量化 ONNX 模型。模型输出已与 PyTorch 对照,验证样例最大差异约为 6e-7。

实验概览

83.85%验证集准确率
2训练轮数
4 GPUCloudML 训练
6e-7ONNX/PyTorch 最大差异

推理在哪里运行?

Static Space 只提供页面、分词文件和量化模型。浏览器下载后使用 WebAssembly 在本地完成分词与推理,不需要 Gradio 容器,也不占用 Hugging Face CPU 配额。