Update README.md

README.md

@@ -27,3 +27,116 @@ configs:
   - split: train
     path: data/train-*
 ---
+
+
+```
+import json
+import copy
+from datasets import Dataset
+from huggingface_hub import login
+
+def create_huggingface_dataset(num_entities=10000):
+    # 긴 텍스트 생성을 위한 함수
+    def generate_long_text():
+        long_text = ""
+        for char in "abcdefghijk":  # a부터 k까지
+            for i in range(1000):  # 000부터 999까지
+                long_text += f"{char}{i:03d}"  # 예: a000, a001, ..., k999
+        return long_text
+    
+    # 공통으로 사용할 긴 텍스트 생성 (메모리 효율성을 위해)
+    long_text = generate_long_text()
+    
+    # 이미지 경로 설정 - 이제 각 엔티티마다 이미지 경로 리스트 생성
+    image_path = "./large_image_for_debug.jpg"
+    
+    # 데이터셋 구조 생성을 위한 빈 리스트
+    images_list = []
+    messages_list = []
+    
+    # 10,000개의 동일한 entity 생성
+    for i in range(num_entities):
+        # 각 엔티티마다 이미지 경로 리스트 추가 (1개의 이미지 포함)
+        images_list.append([image_path])  # 리스트로 감싸서 추가
+        
+        # 메시지 생성
+        message = [
+            {
+                "role": "user",
+                "content": [
+                    {
+                        "type": "image",
+                        "index": 0,
+                        "text": None
+                    },
+                    {
+                        "type": "text",
+                        "index": None,
+                        "text": f"Write a000 to k999 (Entity {i+1})"
+                    }
+                ]
+            },
+            {
+                "role": "assistant",
+                "content": [
+                    {
+                        "type": "text",
+                        "index": None,
+                        "text": long_text
+                    }
+                ]
+            }
+        ]
+        
+        messages_list.append(message)
+    
+    # 최종 데이터셋 구조
+    dataset_dict = {
+        "images": images_list,
+        "messages": messages_list
+    }
+    
+    return dataset_dict
+
+# 허깅페이스 로그인 (API 토큰 필요)
+login()  # 이 부분에서 토큰을 요청하거나 환경 변수에서 가져옵니다
+
+# 데이터셋 생성
+print("데이터셋 생성 중...")
+dataset_dict = create_huggingface_dataset()
+
+# 생성된 데이터셋의 크기 확인
+entity_count = len(dataset_dict["messages"])
+print(f"생성된 entity 수: {entity_count}")
+print(f"첫 번째 entity의 images 형식: {dataset_dict['images'][0]}")  # 이미지가 리스트 형태인지 확인
+
+# HuggingFace Dataset 객체로 변환
+# 메모리 효율을 위해 청크로 나누어 처리
+chunk_size = 100  # 한 번에 처리할 entity 수
+dataset_chunks = []
+
+for i in range(0, entity_count, chunk_size):
+    end_idx = min(i + chunk_size, entity_count)
+    chunk_dict = {
+        "images": dataset_dict["images"][i:end_idx],
+        "messages": dataset_dict["messages"][i:end_idx]
+    }
+    dataset_chunks.append(Dataset.from_dict(chunk_dict))
+
+# 청크들을 하나의 데이터셋으로 결합
+from datasets import concatenate_datasets
+final_dataset = concatenate_datasets(dataset_chunks)
+
+# 데이터셋의 실제 형식 확인
+print("데이터셋 샘플 형식:")
+print(final_dataset[0])
+
+# 데이터셋 허브에 업로드
+print("허깅페이스 허브에 데이터셋 업로드 중...")
+final_dataset.push_to_hub(
+    "Ryoo72/long_for_debug",  # 여기에 자신의 사용자 이름과 원하는 데이터셋 이름 입력
+    private=True  # 비공개 설정 (선택사항)
+)
+
+print("데이터셋 업로드 완료!")
+```