Update README.md
Browse files
README.md
CHANGED
|
@@ -4,6 +4,7 @@ license: apache-2.0
|
|
| 4 |
|
| 5 |
这是MNBVC多模态语料小组的通用语料的格式展示。
|
| 6 |
|
|
|
|
| 7 |
|
| 8 |
1. 文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数,它产生一个128位(16字节)的哈希值,通常用于确保数据的完整性。在这里,它可以用来唯一标识文件,或者检查文件是否被更改。
|
| 9 |
|
|
@@ -19,4 +20,42 @@ license: apache-2.0
|
|
| 19 |
|
| 20 |
6. 时间: 记录数据处理的时间。
|
| 21 |
|
| 22 |
-
7. 数据类型: 指示存储在该行中的数据类型。例如,它可以是“文本”、“图片”或其他任何类型,用于区分不同类型的数据或内容。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 4 |
|
| 5 |
这是MNBVC多模态语料小组的通用语料的格式展示。
|
| 6 |
|
| 7 |
+
字段说明:
|
| 8 |
|
| 9 |
1. 文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数,它产生一个128位(16字节)的哈希值,通常用于确保数据的完整性。在这里,它可以用来唯一标识文件,或者检查文件是否被更改。
|
| 10 |
|
|
|
|
| 20 |
|
| 21 |
6. 时间: 记录数据处理的时间。
|
| 22 |
|
| 23 |
+
7. 数据类型: 指示存储在该行中的数据类型。例如,它可以是“文本”、“图片”或其他任何类型,用于区分不同类型的数据或内容。
|
| 24 |
+
|
| 25 |
+
关于图片,我们的保存方法是:
|
| 26 |
+
|
| 27 |
+
```python
|
| 28 |
+
def read_image(image_path):
|
| 29 |
+
# 打开图像文件
|
| 30 |
+
with open(image_path, 'rb') as file:
|
| 31 |
+
image = Image.open(file)
|
| 32 |
+
# 将图像转换为二进制格式
|
| 33 |
+
img_byte_arr = io.BytesIO()
|
| 34 |
+
image.save(img_byte_arr, format=image.format)
|
| 35 |
+
img_byte_arr = img_byte_arr.getvalue()
|
| 36 |
+
return img_byte_arr
|
| 37 |
+
|
| 38 |
+
```
|
| 39 |
+
|
| 40 |
+
这个函数首先以二进制读模式打开指定路径的图像文件。然后,它使用PIL的Image.open方法来加载图像。为了将图像转换为二进制格式,我们创建了一个BytesIO对象,然后使用图像的save方法将其保存到这个内存中的字节流中。最后,使用getvalue方法获取字节流的内容,这将是图像的二进制表示。
|
| 41 |
+
|
| 42 |
+
在这段代码中,format=image.format确保图像以其原始格式保存。这样做是为了保持图像质量和格式的一致性,不管它最初是JPEG、PNG还是其他格式。
|
| 43 |
+
|
| 44 |
+
一个读取的方法:
|
| 45 |
+
```python
|
| 46 |
+
import pandas as pd
|
| 47 |
+
from PIL import Image
|
| 48 |
+
import io
|
| 49 |
+
|
| 50 |
+
# 读取Parquet文件
|
| 51 |
+
df = pd.read_parquet('train.parquet')
|
| 52 |
+
|
| 53 |
+
# 遍历DataFrame的行
|
| 54 |
+
for index, row in df.iterrows():
|
| 55 |
+
# 处理图像数据
|
| 56 |
+
if row['图片'] is not None:
|
| 57 |
+
image_data = row['图片']
|
| 58 |
+
image = Image.open(io.BytesIO(image_data))
|
| 59 |
+
# 保存图像,文件名可以根据需求自定义
|
| 60 |
+
image.save(f'image_{index}.png')
|
| 61 |
+
```
|