File size: 1,478 Bytes
b431457 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 |
import json
import uuid
import os
from huggingface_hub import HfApi
def add_ids_to_jsonl(file_path):
# Lire le fichier original
with open(file_path, 'r', encoding='utf-8') as f:
lines = f.readlines()
# Ajouter des IDs aux données
updated_lines = []
for line in lines:
data = json.loads(line)
# Générer un ID unique de 50 caractères
unique_id = str(uuid.uuid4()) + str(uuid.uuid4())[:18]
data['id'] = unique_id
updated_lines.append(json.dumps(data, ensure_ascii=False) + '\n')
# Écrire le fichier mis à jour
with open(file_path, 'w', encoding='utf-8') as f:
f.writelines(updated_lines)
def main():
# Mettre à jour les fichiers metadata.jsonl dans chaque répertoire
directories = ['train', 'test', 'validation']
for directory in directories:
metadata_path = os.path.join(directory, 'metadata.jsonl')
if os.path.exists(metadata_path):
print(f"Ajout d'IDs au fichier {metadata_path}")
add_ids_to_jsonl(metadata_path)
# Push les modifications vers Hugging Face
token = os.getenv('HF_TOKEN')
if not token:
print("Erreur : La variable d'environnement HF_TOKEN n'est pas définie")
return
api = HfApi()
api.upload_folder(
folder_path=".",
repo_id="Marsouuu/french-kid",
repo_type="dataset",
token=token
)
if __name__ == "__main__":
main() |