nerserver / reports /comparison_report.md
Robin
feat: optional labels, bilingual auto-expansion, language hint (v2.0)
372fe0c
|
Raw
History Blame Contribute Delete
11.9 kB

NER 模型对比测试报告

生成时间:2026-04-30 08:12:29
阈值(threshold):0.4

一、汇总对比

测试用例 语言 gliner_multi-v2.1 召回 gliner_multi-v2.1 耗时 gliner-multitask-large-v0.5 召回 gliner-multitask-large-v0.5 耗时
EN-01 英文 · 科技人物 en 7/7 (100%) 851ms 7/7 (100%) 1478ms
EN-02 英文 · 政治新闻 en 3/5 (60%) 424ms 5/5 (100%) 1804ms
ZH-01 中文 · 现代商业(双语标签) zh 0/8 (0%) 485ms 0/8 (0%) 3195ms
ZH-02 中文 · 古典文学(边界测试) zh 0/8 (0%) 738ms 0/8 (0%) 1937ms
ZH-03 中文 · 医疗场景(双语标签) zh 0/5 (0%) 774ms 0/5 (0%) 2137ms
AR-01 阿拉伯语 · 新闻 ar 2/4 (50%) 423ms 2/4 (50%) 1944ms
MIX-01 中英混合 · 职场场景(双语标签) mixed 4/7 (57%) 582ms 4/7 (57%) 2436ms
MIX-02 中英混合 · 学术场景(双语标签) mixed 2/6 (33%) 698ms 2/6 (33%) 2396ms
平均 38% 622ms 43% 2166ms

二、模型加载时间

模型 加载耗时
gliner_multi-v2.1 23.4s
gliner-multitask-large-v0.5 10.9s

三、逐用例详细结果

EN-01 英文 · 科技人物

文本

Elon Musk, CEO of Tesla and founder of SpaceX, announced a new Starship launch from Boca Chica, Texas. NASA has partnered with SpaceX for the Artemis lunar lander mission planned for 2026.

期望实体Elon Musk, Tesla, SpaceX, NASA, Boca Chica, Texas, 2026

gliner_multi-v2.1 (851ms,8 个实体,召回 100%)

文本 标签 置信度 命中期望
Elon Musk full name of a person 0.94
Tesla company or organization name 0.77
SpaceX company or organization name 0.94
Boca Chica geographical location 0.89
Texas geographical location 0.78
NASA company or organization name 0.79
SpaceX company or organization name 0.93
2026 date or year 0.93

gliner-multitask-large-v0.5 (1478ms,10 个实体,召回 100%)

文本 标签 置信度 命中期望
Elon Musk full name of a person 0.99
Tesla company or organization name 1.00
SpaceX company or organization name 1.00
Starship product or technology name 0.98
Boca Chica geographical location 0.99
Texas geographical location 0.95
NASA company or organization name 1.00
SpaceX company or organization name 1.00
Artemis product or technology name 0.75
2026 date or year 0.99

EN-02 英文 · 政治新闻

文本

President Biden signed the Inflation Reduction Act in Washington D.C. on August 16, 2022. The legislation was championed by Senator Chuck Schumer and was seen as a major win for the Democratic Party.

期望实体Biden, Chuck Schumer, Washington D.C., August 16, 2022, Democratic Party

gliner_multi-v2.1 (424ms,6 个实体,召回 60%)

文本 标签 置信度 命中期望
President Biden full name of a person 0.61
Inflation Reduction Act legislation or policy name 0.88
Washington D.C. geographical location 0.68
August 16, 2022 date or year 0.96
Senator Chuck Schumer full name of a person 0.56
Democratic Party political party 0.99

未命中Biden, Chuck Schumer

gliner-multitask-large-v0.5 (1804ms,7 个实体,召回 100%)

文本 标签 置信度 命中期望
Biden full name of a person 0.64
Inflation Reduction Act legislation or policy name 0.98
Washington D.C. geographical location 0.94
August 16, 2022 date or year 0.99
Senator company or organization name 0.51
Chuck Schumer full name of a person 0.80
Democratic Party political party 0.99

ZH-01 中文 · 现代商业(双语标签)

文本

阿里巴巴集团创始人马云于2019年卸任董事局主席,由张勇接任。总部位于杭州的阿里巴巴旗下拥有淘宝、天猫、支付宝等业务板块。

期望实体马云, 张勇, 阿里巴巴, 杭州, 淘宝, 天猫, 支付宝, 2019

gliner_multi-v2.1 (485ms,2 个实体,召回 0%)

文本 标签 置信度 命中期望
阿里巴巴集团创始人马云于2019年卸任董事局主席 公司或组织机构名称 0.60
支付宝等业务板块 产品或品牌名称 0.58

未命中马云, 张勇, 阿里巴巴, 杭州, 淘宝, 天猫, 支付宝, 2019

gliner-multitask-large-v0.5 (3195ms,0 个实体,召回 0%)

未识别到实体

未命中马云, 张勇, 阿里巴巴, 杭州, 淘宝, 天猫, 支付宝, 2019

ZH-02 中文 · 古典文学(边界测试)

文本

尤氏来请,王熙凤笑道:'你来了。'贾母命人摆酒,宝玉和黛玉在大观园散步,薛宝钗独坐梨香院。

期望实体尤氏, 王熙凤, 贾母, 宝玉, 黛玉, 薛宝钗, 大观园, 梨香院

gliner_multi-v2.1 (738ms,0 个实体,召回 0%)

未识别到实体

未命中尤氏, 王熙凤, 贾母, 宝玉, 黛玉, 薛宝钗, 大观园, 梨香院

gliner-multitask-large-v0.5 (1937ms,2 个实体,召回 0%)

文本 标签 置信度 命中期望
王熙凤笑道 人名或姓名 0.64
贾母命人摆酒 人名或姓名 0.42

未命中尤氏, 王熙凤, 贾母, 宝玉, 黛玉, 薛宝钗, 大观园, 梨香院

⚠️ 边界错误:['王熙凤笑道']

ZH-03 中文 · 医疗场景(双语标签)

文本

北京协和医院心内科主任王建国教授团队,于2023年成功完成首例机器人辅助冠状动脉搭桥手术,患者来自山东省济南市。

期望实体王建国, 北京协和医院, 济南, 山东, 2023

gliner_multi-v2.1 (774ms,1 个实体,召回 0%)

文本 标签 置信度 命中期望
北京协和医院心内科主任王建国教授团队 hospital or institution name 0.65

未命中王建国, 北京协和医院, 济南, 山东, 2023

gliner-multitask-large-v0.5 (2137ms,0 个实体,召回 0%)

未识别到实体

未命中王建国, 北京协和医院, 济南, 山东, 2023

AR-01 阿拉伯语 · 新闻

文本

أعلن الرئيس محمد بن سلمان عن إطلاق مشروع نيوم في المملكة العربية السعودية عام 2017، وتبلغ تكلفته 500 مليار دولار.

期望实体محمد بن سلمان, نيوم, المملكة العربية السعودية, 2017

gliner_multi-v2.1 (423ms,5 个实体,召回 50%)

文本 标签 置信度 命中期望
محمد بن سلمان full name of a person 0.82
مشروع نيوم project or initiative name 0.72
المملكة العربية السعودية geographical location 0.85
عام 2017 date or year 0.91
500 مليار دولار monetary amount 0.94

未命中نيوم, 2017

gliner-multitask-large-v0.5 (1944ms,5 个实体,召回 50%)

文本 标签 置信度 命中期望
محمد بن سلمان full name of a person 0.72
مشروع نيوم project or initiative name 0.76
المملكة العربية السعودية geographical location 0.98
عام 2017 date or year 0.99
500 مليار دولار monetary amount 0.97

未命中نيوم, 2017

MIX-01 中英混合 · 职场场景(双语标签)

文本

张伟加入了 Google 北京研发中心,负责 Android 系统优化。他的同事 Sarah Chen 来自 Meta,两人共同参与了 2024 年的 AI Summit。

期望实体张伟, Google, Sarah Chen, Meta, Android, 北京, 2024

gliner_multi-v2.1 (582ms,5 个实体,召回 57%)

文本 标签 置信度 命中期望
Google 公司或组织机构名称 0.68
北京研发中心 地名或城市 0.49
Sarah Chen 人名或姓名 0.88
Meta 公司或组织机构名称 0.67
2024 日期或年份 0.41

未命中张伟, Android, 北京

gliner-multitask-large-v0.5 (2436ms,6 个实体,召回 57%)

文本 标签 置信度 命中期望
张伟加入了 人名或姓名 0.40
Google company or organization name 0.89
Android 产品或技术名称 0.68
Sarah Chen 人名或姓名 0.94
Meta company or organization name 0.84
2024 年的 date or year 0.93

未命中张伟, 北京, 2024

MIX-02 中英混合 · 学术场景(双语标签)

文本

清华大学计算机系教授李明在 NeurIPS 2023 发表了关于 Transformer 架构的论文,合作者来自 MIT 和 Stanford University。

期望实体李明, 清华大学, NeurIPS 2023, Transformer, MIT, Stanford University

gliner_multi-v2.1 (698ms,2 个实体,召回 33%)

文本 标签 置信度 命中期望
MIT 大学或研究机构 0.70
Stanford University 大学或研究机构 0.85

未命中李明, 清华大学, NeurIPS 2023, Transformer

gliner-multitask-large-v0.5 (2396ms,5 个实体,召回 33%)

文本 标签 置信度 命中期望
NeurIPS conference or journal name 0.90
2023 date or year 0.91
Transformer 架构的论文 technology or model name 0.74
MIT university or research institution 0.93
Stanford University university or research institution 0.93

未命中李明, 清华大学, NeurIPS 2023, Transformer

四、结论与建议

  • 综合召回最高gliner-multitask-large-v0.5(平均召回 43%)
  • 推理最快gliner_multi-v2.1(平均 622ms/次)

优化建议

  1. 双语标签策略:对中文或混合文本,同时提供中英文标签描述(如 "人名或姓名" + "full name of a person"),可显著提升中文实体召回率。GLiNER 是零样本模型,标签描述越具体、越接近训练语料的表达方式,识别效果越好。
  2. Span 去重:使用双语标签时同一文本跨度可能被打上两个标签,建议在服务层按 (start, end) 去重,保留得分最高的结果(已在 app/ner.py 实现)。
  3. 阈值调优:英文建议 threshold=0.5,中文建议 threshold=0.35~0.4(模型对中文置信度普遍偏低)。
  4. 古典/文言文:两个模型对文言文支持均弱,建议结合规则或专用模型(如 BERT-CRF 在古汉语语料上微调)处理此类文本。
  5. 阿拉伯语gliner-multitask-large-v0.5 在多语言上训练,对阿拉伯语有基础支持;gliner_multi-v2.1 阿拉伯语效果有限。