Update README.md
Browse files
README.md
CHANGED
|
@@ -7,7 +7,7 @@ license: creativeml-openrail-m
|
|
| 7 |
|
| 8 |
PromptCLUE:全中文任务零样本学习模型
|
| 9 |
|
| 10 |
-
这个模型是基于PromptCLUE-base
|
| 11 |
|
| 12 |
在1000亿token中文语料上预训练,累计学习1.5万亿中文token,并且在数百种任务上进行Prompt任务式训练。针对理解类任务,如分类、情感分析、抽取等,可以自定义标签体系;针对多种生成任务,可以进行采样自由生成。
|
| 13 |
|
|
@@ -21,8 +21,8 @@ PromptCLUE:全中文任务零样本学习模型
|
|
| 21 |
```python
|
| 22 |
# 加载模型
|
| 23 |
from transformers import T5Tokenizer, T5ForConditionalGeneration
|
| 24 |
-
tokenizer = T5Tokenizer.from_pretrained("ClueAI/PromptCLUE-base")
|
| 25 |
-
model = T5ForConditionalGeneration.from_pretrained("ClueAI/PromptCLUE-base")
|
| 26 |
```
|
| 27 |
|
| 28 |
使用模型进行预测推理方法:
|
|
@@ -37,7 +37,7 @@ def preprocess(text):
|
|
| 37 |
def postprocess(text):
|
| 38 |
return text.replace("_", "\n")
|
| 39 |
|
| 40 |
-
def answer(text, sample=False, top_p=0.
|
| 41 |
'''sample:是否抽样。生成任务,可以设置为True;
|
| 42 |
top_p:0-1之间,生成的内容越多样'''
|
| 43 |
text = preprocess(text)
|
|
@@ -51,6 +51,46 @@ def answer(text, sample=False, top_p=0.6):
|
|
| 51 |
```
|
| 52 |
|
| 53 |
### 示例输入
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 54 |
#### 新闻分类(classify)
|
| 55 |
```bash
|
| 56 |
Input:
|
|
|
|
| 7 |
|
| 8 |
PromptCLUE:全中文任务零样本学习模型
|
| 9 |
|
| 10 |
+
这个模型是基于PromptCLUE-base进一步训练,以及更多任务以及更多任务类型上进行训练,是对PromptCLUE-base进一步升级, 新增的任务类型有改写和问答等类型
|
| 11 |
|
| 12 |
在1000亿token中文语料上预训练,累计学习1.5万亿中文token,并且在数百种任务上进行Prompt任务式训练。针对理解类任务,如分类、情感分析、抽取等,可以自定义标签体系;针对多种生成任务,可以进行采样自由生成。
|
| 13 |
|
|
|
|
| 21 |
```python
|
| 22 |
# 加载模型
|
| 23 |
from transformers import T5Tokenizer, T5ForConditionalGeneration
|
| 24 |
+
tokenizer = T5Tokenizer.from_pretrained("ClueAI/PromptCLUE-base-v1-5")
|
| 25 |
+
model = T5ForConditionalGeneration.from_pretrained("ClueAI/PromptCLUE-base-v1-5")
|
| 26 |
```
|
| 27 |
|
| 28 |
使用模型进行预测推理方法:
|
|
|
|
| 37 |
def postprocess(text):
|
| 38 |
return text.replace("_", "\n")
|
| 39 |
|
| 40 |
+
def answer(text, sample=False, top_p=0.8):
|
| 41 |
'''sample:是否抽样。生成任务,可以设置为True;
|
| 42 |
top_p:0-1之间,生成的内容越多样'''
|
| 43 |
text = preprocess(text)
|
|
|
|
| 51 |
```
|
| 52 |
|
| 53 |
### 示例输入
|
| 54 |
+
### 改写(paraphrase)[smaple=True]
|
| 55 |
+
Input:
|
| 56 |
+
生成与下列文字相同意思的句子:
|
| 57 |
+
白云遍地无人扫
|
| 58 |
+
答案:
|
| 59 |
+
|
| 60 |
+
Model output:
|
| 61 |
+
白云散去无踪,没人扫。
|
| 62 |
+
|
| 63 |
+
Input:
|
| 64 |
+
用另外的话复述下面的文字:
|
| 65 |
+
怎么到至今还不回来,这满地的白云幸好没人打扫。
|
| 66 |
+
答案:
|
| 67 |
+
|
| 68 |
+
Model output:
|
| 69 |
+
满地白云无扫处
|
| 70 |
+
|
| 71 |
+
Input:
|
| 72 |
+
改写下面的文字,确保意思相同:
|
| 73 |
+
一个如此藐视本国人民民主权利的人,怎么可能捍卫外国人的民权?
|
| 74 |
+
答案:
|
| 75 |
+
|
| 76 |
+
Model output:
|
| 77 |
+
对一个如此藐视本国人民民主权利的人,怎么能捍卫外国人的民权?
|
| 78 |
+
|
| 79 |
+
### 问答(qa)[smaple=False]
|
| 80 |
+
Input:
|
| 81 |
+
根据问题给出答案:
|
| 82 |
+
问题:手指发麻的主要可能病因是:
|
| 83 |
+
答案:
|
| 84 |
+
|
| 85 |
+
Model output:
|
| 86 |
+
神经损伤,颈椎病,贫血,高血压
|
| 87 |
+
|
| 88 |
+
问答:
|
| 89 |
+
问题:黄果悬钩子的目是:
|
| 90 |
+
答案:
|
| 91 |
+
|
| 92 |
+
Model output:
|
| 93 |
+
蔷薇目
|
| 94 |
#### 新闻分类(classify)
|
| 95 |
```bash
|
| 96 |
Input:
|