Update README.md
Browse files
README.md
CHANGED
|
@@ -1,21 +1,29 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
## mnbvc mm dataset v2.0
|
| 2 |
|
| 3 |
-
MNBVC 多模态语料数据格式。原链接：
|
| 4 |
|
| 5 |
|字段名称|字段说明|可选|
|
| 6 |
|-|-|-|
|
| 7 |
-
|实体ID|
|
| 8 |
-
|块ID|
|
| 9 |
-
|时间| |
|
| 10 |
-
|扩展字段|
|
| 11 |
-
|文本| | |
|
| 12 |
-
|图片| | |
|
| 13 |
-
|OCR文本| | |
|
| 14 |
-
|音频| | |
|
| 15 |
-
|STT文本| | |
|
| 16 |
-
|块类型| |
|
| 17 |
-
|文件md5|
|
| 18 |
-
|页ID| |
|
|
|
|
|
|
|
| 19 |
|
| 20 |
图片读取代码：
|
| 21 |
|
|
@@ -45,6 +53,4 @@ def read_audio(audio_path):
|
|
| 45 |
audio_bytes = byte_arr.getvalue()
|
| 46 |
|
| 47 |
return audio_bytes
|
| 48 |
-
```
|
| 49 |
-
|
| 50 |
-
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: apache-2.0
|
| 3 |
+
language:
|
| 4 |
+
- en
|
| 5 |
+
- zh
|
| 6 |
+
---
|
| 7 |
## mnbvc mm dataset v2.0
|
| 8 |
|
| 9 |
+
MNBVC 多模态语料数据格式。原链接：https://huggingface.co/datasets/wanng/example_mmdata_mnbvc
|
| 10 |
|
| 11 |
|字段名称|字段说明|可选|
|
| 12 |
|-|-|-|
|
| 13 |
+
|实体ID|数据的唯一标识符。用于在数据集中确定是哪一条数据。在单个数据集中确定一条数据的实体对象。|必选|
|
| 14 |
+
|块ID|一个实体对象内的标识符。用于确定一条数据内的一个部分数据。parquet 行的最小单元。 |必选|
|
| 15 |
+
|时间|语料首次出现的时间，如无法确定则为处理该数据实体的时间 |必选|
|
| 16 |
+
|扩展字段|用于保存块的元信息。为可以被成功 load 的 json 字符串。后期可继续扩展 |必选|
|
| 17 |
+
|文本|文本块的内容 |必选 |
|
| 18 |
+
|图片|图片块的内容 |必选 |
|
| 19 |
+
|OCR文本|图片的 OCR 结果 |必选 |
|
| 20 |
+
|音频|音频块的内容 |必选 |
|
| 21 |
+
|STT文本|音频的 STT 结果 |必选 |
|
| 22 |
+
|块类型|用于保存块的类别。为字符串，使用该类型可以从内容中提取对应信息。类别的含义为“模态”。 |必选|
|
| 23 |
+
|文件md5|当 entity/blcok 是从对应文件解析时，需要计算文件 md5 用于标识数据完整性 |可选|
|
| 24 |
+
|页ID|当文件从文档中解析时，需要计算当前页数 |可选|
|
| 25 |
+
|
| 26 |
+
每一行文本/图片/音频只能存在一条内容，OCR文本、STT文本 暂时留空。
|
| 27 |
|
| 28 |
图片读取代码：
|
| 29 |
|
|
|
|
| 53 |
audio_bytes = byte_arr.getvalue()
|
| 54 |
|
| 55 |
return audio_bytes
|
| 56 |
+
```
|
|
|
|
|
|