Upload WMT24++ parallel ratio dataset

README.md

@@ -22,6 +22,8 @@ size_categories:
 - Achieved primary ratio: `0.8000`
 - Tag template: `<{tgt_upper}>`
 - Text template: `{src_tag} {source} {tgt_tag} {target}`
+- Normalize doubled quotes: `True`
+- Strip control chars: `True`
 - Drop bad source: `True`
 - Drop canary: `True`
 

metadata.json

@@ -19,7 +19,8 @@
   "format": {
     "tag_template": "<{tgt_upper}>",
     "text_template": "{src_tag} {source} {tgt_tag} {target}",
-    "normalize_doubled_quotes": true
+    "normalize_doubled_quotes": true,
+    "strip_control_chars": true
   },
   "filters": {
     "drop_bad_source": true,
@@ -27,9 +28,9 @@
     "min_chars": 1
   },
   "load_stats": {
-    "en->ko": {
-      "config": "en-ko_KR",
-      "direction": "en->ko",
+    "en->zh": {
+      "config": "en-zh_CN",
+      "direction": "en->zh",
       "raw_rows": 998,
       "dropped_bad_source": 38,
       "dropped_canary": 0,
@@ -45,9 +46,9 @@
       "dropped_short": 0,
       "kept_rows": 960
     },
-    "en->zh": {
-      "config": "en-zh_CN",
-      "direction": "en->zh",
+    "en->ko": {
+      "config": "en-ko_KR",
+      "direction": "en->ko",
       "raw_rows": 998,
       "dropped_bad_source": 38,
       "dropped_canary": 0,
@@ -80,7 +81,7 @@
       "source_odd_quote_count": 11,
       "target_odd_quote_count": 10,
       "rows_with_replacement_char": 0,
-      "rows_with_control_char": 2,
+      "rows_with_control_char": 0,
       "examples": [
         {
           "id": "wmt24pp:en-ko_KR:test-en-literary_the_other_side_stormfall_chunk_2_words_956:988:en->ko",
@@ -91,24 +92,6 @@
           "source_preview": "“Can’t tell,” Cohren stated. He reached for his mic and spoke. “Exodus Company, hold fire unless fired upon, let's draw them out",
           "target_preview": "\"알 수 없다.\" 코렌이 말했다. 그는 마이크로 손을 뻗어 말했다. \"엑소더스 중대, 먼저 공격하지 말고 적이 공격할 때까지 기다려. 그들을 끌어내자.”"
         },
-        {
-          "id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:814:en->ko",
-          "pair": "en->ko",
-          "issues": [
-            "control_char"
-          ],
-          "source_preview": "A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from ",
-          "target_preview": "거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불꽃이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. \b타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다."
-        },
-        {
-          "id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:832:en->ko",
-          "pair": "en->ko",
-          "issues": [
-            "control_char"
-          ],
-          "source_preview": "\"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked.",
-          "target_preview": "\"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" \b케일이 물었다."
-        },
         {
           "id": "wmt24pp:en-ko_KR:test-en-news_scotsman.87462:105:en->ko",
           "pair": "en->ko",
@@ -263,6 +246,15 @@
           ],
           "source_preview": "The concept of the separation of powers - the government, parliament and the judiciary - is a vital safeguard against tyranny. Politicians who think they can strike down judges\" decisions are effectively putting themselv",
           "target_preview": "정부, 입법부, 사법부 간 권력 분립의 개념은 폭정을 막는 중요한 안전 장치다. 자신이 사법부의 판단을 뒤집을 수 있다고 생각하는 정치인들은 사실상 법 위에 군림하는 것이다. 유권자들은 가장 극단적인 상황이 아닌 이상 그런 태도를 용납하지 않을 것임을 분명히 해야 한다."
+        },
+        {
+          "id": "wmt24pp:en-ko_KR:test-en-news_scotsman.87448:89:en->ko",
+          "pair": "en->ko",
+          "issues": [
+            "source_odd_quote_count"
+          ],
+          "source_preview": "Brewster Brothers\" wash plants transform 100 per cent of the excavated soils and rubble they process from the construction industry into high-value aggregates for reuse. Over the past six years, the firm's site near Livi",
+          "target_preview": "브루스터 브라더스(Brewster Brothers)의 워시 플랜트에서는 건설 산업의 굴착 공사에서 발생하는 흙 및 잔해물을 처리하여 재사용 가능한 고부가가치 골재로 100% 변환한다. 웨스트 로디언 리빙스턴 인근에 위치한 이 회사의 공장에서 지난 6년간 135만 톤 가량의 건설, 철거, 굴착 폐기물을 처리한 덕분에 이 쓰레기가 매립될 운명을 피할 수 있었다. 그로부터 건설용 재활용 골재가 1"
         }
       ]
     }

quality_report.json

@@ -6,7 +6,7 @@
   "source_odd_quote_count": 11,
   "target_odd_quote_count": 10,
   "rows_with_replacement_char": 0,
-  "rows_with_control_char": 2,
+  "rows_with_control_char": 0,
   "examples": [
     {
       "id": "wmt24pp:en-ko_KR:test-en-literary_the_other_side_stormfall_chunk_2_words_956:988:en->ko",
@@ -17,24 +17,6 @@
       "source_preview": "“Can’t tell,” Cohren stated. He reached for his mic and spoke. “Exodus Company, hold fire unless fired upon, let's draw them out",
       "target_preview": "\"알 수 없다.\" 코렌이 말했다. 그는 마이크로 손을 뻗어 말했다. \"엑소더스 중대, 먼저 공격하지 말고 적이 공격할 때까지 기다려. 그들을 끌어내자.”"
     },
-    {
-      "id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:814:en->ko",
-      "pair": "en->ko",
-      "issues": [
-        "control_char"
-      ],
-      "source_preview": "A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from ",
-      "target_preview": "거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불꽃이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. \b타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다."
-    },
-    {
-      "id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:832:en->ko",
-      "pair": "en->ko",
-      "issues": [
-        "control_char"
-      ],
-      "source_preview": "\"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked.",
-      "target_preview": "\"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" \b케일이 물었다."
-    },
     {
       "id": "wmt24pp:en-ko_KR:test-en-news_scotsman.87462:105:en->ko",
       "pair": "en->ko",
@@ -189,6 +171,15 @@
       ],
       "source_preview": "The concept of the separation of powers - the government, parliament and the judiciary - is a vital safeguard against tyranny. Politicians who think they can strike down judges\" decisions are effectively putting themselv",
       "target_preview": "정부, 입법부, 사법부 간 권력 분립의 개념은 폭정을 막는 중요한 안전 장치다. 자신이 사법부의 판단을 뒤집을 수 있다고 생각하는 정치인들은 사실상 법 위에 군림하는 것이다. 유권자들은 가장 극단적인 상황이 아닌 이상 그런 태도를 용납하지 않을 것임을 분명히 해야 한다."
+    },
+    {
+      "id": "wmt24pp:en-ko_KR:test-en-news_scotsman.87448:89:en->ko",
+      "pair": "en->ko",
+      "issues": [
+        "source_odd_quote_count"
+      ],
+      "source_preview": "Brewster Brothers\" wash plants transform 100 per cent of the excavated soils and rubble they process from the construction industry into high-value aggregates for reuse. Over the past six years, the firm's site near Livi",
+      "target_preview": "브루스터 브라더스(Brewster Brothers)의 워시 플랜트에서는 건설 산업의 굴착 공사에서 발생하는 흙 및 잔해물을 처리하여 재사용 가능한 고부가가치 골재로 100% 변환한다. 웨스트 로디언 리빙스턴 인근에 위치한 이 회사의 공장에서 지난 6년간 135만 톤 가량의 건설, 철거, 굴착 폐기물을 처리한 덕분에 이 쓰레기가 매립될 운명을 피할 수 있었다. 그로부터 건설용 재활용 골재가 1"
     }
   ]
 }

train.jsonl

@@ -141,11 +141,11 @@
 {"id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:843:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "literary", "document_id": "test-en-literary_fight_above_the_trees_chunk_1_words_996", "segment_id": 843, "sample_key": "en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:843", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "Up ahead, Nyssi was clinging on for dear life as Thassalin flailed around, blasting the blackened monster with bursts of flame. While the creature was definitely injured, it seemed very pissed off and unwilling to back off, and the fire balls didn't seem to be doing as much as they should. As Thassalin straightened himself out though, Nyssi took this as an opportunity to pull out her own weapon, a trusty shotgun. Sure, it wasn't meant for this sort of thing, but surely the scattershot would at least deter the black beast?", "target_text": "타살린이 이리저리 움직이면서 검게 그을린 괴물을 화염 폭발로 날려버리는 동안, 앞에서 니시는 필사적으로 매달려 있었다. 그 생명체는 분명히 부상을 입었지만, 매우 화가 나 있고 물러설 생각이 없어 보였다. 불덩이들도 제 역할을 하지 못하는 것 같았다. 하지만 타살린이 몸을 바로 세우자 니시는 이것을 기회로 삼아 자신의 무기인 믿음직한 산탄총을 꺼냈다. 물론 이런 상황에 대비한 무기는 아니었지만 산탄총이 검은 짐승을 어느 정도 제압할 수는 있지 않을까?", "text": "<EN> Up ahead, Nyssi was clinging on for dear life as Thassalin flailed around, blasting the blackened monster with bursts of flame. While the creature was definitely injured, it seemed very pissed off and unwilling to back off, and the fire balls didn't seem to be doing as much as they should. As Thassalin straightened himself out though, Nyssi took this as an opportunity to pull out her own weapon, a trusty shotgun. Sure, it wasn't meant for this sort of thing, but surely the scattershot would at least deter the black beast? <KO> 타살린이 이리저리 움직이면서 검게 그을린 괴물을 화염 폭발로 날려버리는 동안, 앞에서 니시는 필사적으로 매달려 있었다. 그 생명체는 분명히 부상을 입었지만, 매우 화가 나 있고 물러설 생각이 없어 보였다. 불덩이들도 제 역할을 하지 못하는 것 같았다. 하지만 타살린이 몸을 바로 세우자 니시는 이것을 기회로 삼아 자신의 무기인 믿음직한 산탄총을 꺼냈다. 물론 이런 상황에 대비한 무기는 아니었지만 산탄총이 검은 짐승을 어느 정도 제압할 수는 있지 않을까?", "content": "<EN> Up ahead, Nyssi was clinging on for dear life as Thassalin flailed around, blasting the blackened monster with bursts of flame. While the creature was definitely injured, it seemed very pissed off and unwilling to back off, and the fire balls didn't seem to be doing as much as they should. As Thassalin straightened himself out though, Nyssi took this as an opportunity to pull out her own weapon, a trusty shotgun. Sure, it wasn't meant for this sort of thing, but surely the scattershot would at least deter the black beast? <KO> 타살린이 이리저리 움직이면서 검게 그을린 괴물을 화염 폭발로 날려버리는 동안, 앞에서 니시는 필사적으로 매달려 있었다. 그 생명체는 분명히 부상을 입었지만, 매우 화가 나 있고 물러설 생각이 없어 보였다. 불덩이들도 제 역할을 하지 못하는 것 같았다. 하지만 타살린이 몸을 바로 세우자 니시는 이것을 기회로 삼아 자신의 무기인 믿음직한 산탄총을 꺼냈다. 물론 이런 상황에 대비한 무기는 아니었지만 산탄총이 검은 짐승을 어느 정도 제압할 수는 있지 않을까?"}
 {"id": "wmt24pp:en-ko_KR:test-en-literary_the_other_side_stormfall_chunk_1_words_992:964:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "literary", "document_id": "test-en-literary_the_other_side_stormfall_chunk_1_words_992", "segment_id": 964, "sample_key": "en-ko_KR:test-en-literary_the_other_side_stormfall_chunk_1_words_992:964", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "“Shaw got us a ride?” Nemic asked, a little surprised.", "target_text": "\"쇼 대위가 우리를 태워줬어?\" 네믹이 조금 놀라며 물었다.", "text": "<EN> “Shaw got us a ride?” Nemic asked, a little surprised. <KO> \"쇼 대위가 우리를 태워줬어?\" 네믹이 조금 놀라며 물었다.", "content": "<EN> “Shaw got us a ride?” Nemic asked, a little surprised. <KO> \"쇼 대위가 우리를 태워줬어?\" 네믹이 조금 놀라며 물었다."}
 {"id": "wmt24pp:en-ja_JP:test-en-social_112289379466442912:673:en->ja", "dataset": "google/wmt24pp", "pair_config": "en-ja_JP", "pair": "en->ja", "source_lang_iso": "en", "target_lang_iso": "ja", "lp": "en-ja_JP", "domain": "social", "document_id": "test-en-social_112289379466442912", "segment_id": 673, "sample_key": "en-ja_JP:test-en-social_112289379466442912:673", "is_bad_source": false, "tag": "<JA>", "src_tag": "<EN>", "tgt_tag": "<JA>", "source_text": "@user22 @user23 Have a look at PHOOOS without JS: https://github.com/niutech/phooos", "target_text": "JSを使わないPHOOOSを見てみて https://github.com/niutech/phooos", "text": "<EN> @user22 @user23 Have a look at PHOOOS without JS: https://github.com/niutech/phooos <JA> JSを使わないPHOOOSを見てみて https://github.com/niutech/phooos", "content": "<EN> @user22 @user23 Have a look at PHOOOS without JS: https://github.com/niutech/phooos <JA> JSを使わないPHOOOSを見てみて https://github.com/niutech/phooos"}
-{"id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:814:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "literary", "document_id": "test-en-literary_fight_above_the_trees_chunk_1_words_996", "segment_id": 814, "sample_key": "en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:814", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from behind him had stopped. Thassalin had forgotten he had passengers on his back.", "target_text": "거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불꽃이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. \b타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다.", "text": "<EN> A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from behind him had stopped. Thassalin had forgotten he had passengers on his back. <KO> 거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불꽃이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. \b타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다.", "content": "<EN> A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from behind him had stopped. Thassalin had forgotten he had passengers on his back. <KO> 거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불꽃이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. \b타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다."}
+{"id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:814:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "literary", "document_id": "test-en-literary_fight_above_the_trees_chunk_1_words_996", "segment_id": 814, "sample_key": "en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:814", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from behind him had stopped. Thassalin had forgotten he had passengers on his back.", "target_text": "거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불꽃이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. 타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다.", "text": "<EN> A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from behind him had stopped. Thassalin had forgotten he had passengers on his back. <KO> 거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불��이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. 타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다.", "content": "<EN> A burst of flames erupted from Thassalin's jaws as the colossal Thraki set fire to a very specific patch of forest, then circled above, watching for moment. Weirdly, as he had slowed down, the weird screaming noise from behind him had stopped. Thassalin had forgotten he had passengers on his back. <KO> 거대한 트라키가 숲의 특정 구역에 불을 지르고 그 위를 돌면서 기회를 엿보자 타살린의 턱에서 불꽃이 터져 나왔다. 이상하게도 그가 속도를 줄이자 뒤에서 들리던 이상한 비명소리가 멈췄다. 타살린은 등에 승객들이 타고 있다는 사실을 잊고 있었다."}
 {"id": "wmt24pp:en-ko_KR:test-en-social_112111193384667328:358:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "social", "document_id": "test-en-social_112111193384667328", "segment_id": 358, "sample_key": "en-ko_KR:test-en-social_112111193384667328:358", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "It's a 24V Panel. Sadly the sun is so low (and partly obstructed by a tree) that it drops down to basically nothing as soon I put a load on it.", "target_text": "24V 패널입니다. 슬프게도 해가 너무 낮게 떠서 (게다가 나무가 가리고 있어) 부하를 넣자마자 사실상 제로가 됩니다.", "text": "<EN> It's a 24V Panel. Sadly the sun is so low (and partly obstructed by a tree) that it drops down to basically nothing as soon I put a load on it. <KO> 24V 패널입니다. 슬프게도 해가 너무 낮게 떠서 (게다가 나무가 가리고 있어) 부하를 넣자마자 사실상 제로가 됩니다.", "content": "<EN> It's a 24V Panel. Sadly the sun is so low (and partly obstructed by a tree) that it drops down to basically nothing as soon I put a load on it. <KO> 24V 패널입니다. 슬프게도 해가 너무 낮게 떠서 (게다가 나무가 가리고 있어) 부하를 넣자마자 사실상 제로가 됩니다."}
 {"id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_2_words_991:853:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "literary", "document_id": "test-en-literary_fight_above_the_trees_chunk_2_words_991", "segment_id": 853, "sample_key": "en-ko_KR:test-en-literary_fight_above_the_trees_chunk_2_words_991:853", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "A horrible, clubbed tail smashed into the ground near Nyssi, knocking her over. She noticed though that the tail was flailing, not aiming at her. The creature, what little Nyssi could see and hear of it, was snarling and clawing at the shadows it had created. Something was teleporting through the darkness, stabbing at the monster, confusing it.", "target_text": "끔찍한 곤봉 모양의 꼬리가 니시 근처의 땅에 부딪혀 그녀를 쓰러뜨렸다. 그녀는 그 꼬리가 자신을 겨냥한 것이 아니라 마구 흔들리고 있다는 것을 알아차렸다. 니시에게 그 생명체가 제대로 보이거나 들리지는 않았지만, 그것은 으르렁거리며 자신이 만든 그림자를 할퀴고 있었다. 무언가가 어둠을 뚫고 순간이동하면서 괴물을 찌르고 혼란스럽게 하고 있었다.", "text": "<EN> A horrible, clubbed tail smashed into the ground near Nyssi, knocking her over. She noticed though that the tail was flailing, not aiming at her. The creature, what little Nyssi could see and hear of it, was snarling and clawing at the shadows it had created. Something was teleporting through the darkness, stabbing at the monster, confusing it. <KO> 끔찍한 곤봉 모양의 꼬리가 니시 근처의 땅에 부딪혀 그녀를 쓰러뜨렸다. 그녀는 그 꼬리가 자신을 겨냥한 것이 아니라 마구 흔들리고 있다는 것을 알아차렸다. 니시에게 그 생명체가 제대로 보이거나 들리지는 않았지만, 그것은 으르렁거리며 자신이 만든 그림자를 할퀴고 있었다. 무언가가 어둠을 뚫고 순간이동하면서 괴물을 찌르고 혼란스럽게 하고 있었다.", "content": "<EN> A horrible, clubbed tail smashed into the ground near Nyssi, knocking her over. She noticed though that the tail was flailing, not aiming at her. The creature, what little Nyssi could see and hear of it, was snarling and clawing at the shadows it had created. Something was teleporting through the darkness, stabbing at the monster, confusing it. <KO> 끔찍한 곤봉 모양의 꼬리가 니시 근처의 땅에 부딪혀 그녀를 쓰러뜨렸다. 그녀는 그 꼬리가 자신을 겨냥한 것이 아니라 마구 흔들리고 있다는 것을 알아차렸다. 니시에게 그 생명체가 제대로 보이거나 들리지는 않았지만, 그것은 으르렁거리며 자신이 만든 그림자를 할퀴고 있었다. 무언가가 어둠을 뚫고 순간이동하면서 괴물을 찌르고 혼란스럽게 하고 있었다."}
 {"id": "wmt24pp:en-ko_KR:test-en-social_112111346044907536:379:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "social", "document_id": "test-en-social_112111346044907536", "segment_id": 379, "sample_key": "en-ko_KR:test-en-social_112111346044907536:379", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "They’re hiding in big Sainsbury’s at Haringey Green Lanes.", "target_text": "해링게이 그린 레인의 대형 세인즈버리 매장 안에 숨겨 놓았어요.", "text": "<EN> They’re hiding in big Sainsbury’s at Haringey Green Lanes. <KO> 해링게이 그린 레인의 대형 세인즈버리 매장 안에 숨겨 놓았어요.", "content": "<EN> They’re hiding in big Sainsbury’s at Haringey Green Lanes. <KO> 해링게이 그린 레인의 대형 세인즈버리 매장 안에 숨겨 놓았어요."}
-{"id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:832:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "literary", "document_id": "test-en-literary_fight_above_the_trees_chunk_1_words_996", "segment_id": 832, "sample_key": "en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:832", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "\"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked.", "target_text": "\"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" \b케일이 물었다.", "text": "<EN> \"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked. <KO> \"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" \b케일이 물었다.", "content": "<EN> \"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked. <KO> \"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" \b케일이 물었다."}
+{"id": "wmt24pp:en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:832:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "literary", "document_id": "test-en-literary_fight_above_the_trees_chunk_1_words_996", "segment_id": 832, "sample_key": "en-ko_KR:test-en-literary_fight_above_the_trees_chunk_1_words_996:832", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "\"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked.", "target_text": "\"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" 케일이 물었다.", "text": "<EN> \"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked. <KO> \"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" 케일이 물었다.", "content": "<EN> \"Hey, Tenuk, do you mind shapeshifting into something that can fly?\" Kayel asked. <KO> \"저기, 테눅, 날 수 있는 무언가로 변신해 볼래?\" 케일이 물었다."}
 {"id": "wmt24pp:en-ko_KR:test-en-social_112270350852000848:636:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "social", "document_id": "test-en-social_112270350852000848", "segment_id": 636, "sample_key": "en-ko_KR:test-en-social_112270350852000848:636", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "Ooo, look what we found behind the radiator!", "target_text": "으으, 라디에이터 뒤에서 뭘 찾았는지 좀 보세요!", "text": "<EN> Ooo, look what we found behind the radiator! <KO> 으으, 라디에이터 뒤에서 뭘 찾았는지 좀 보세요!", "content": "<EN> Ooo, look what we found behind the radiator! <KO> 으으, 라디에이터 뒤에서 뭘 찾았는지 좀 보세요!"}
 {"id": "wmt24pp:en-ko_KR:test-en-social_112152593528184304:548:en->ko", "dataset": "google/wmt24pp", "pair_config": "en-ko_KR", "pair": "en->ko", "source_lang_iso": "en", "target_lang_iso": "ko", "lp": "en-ko_KR", "domain": "social", "document_id": "test-en-social_112152593528184304", "segment_id": 548, "sample_key": "en-ko_KR:test-en-social_112152593528184304:548", "is_bad_source": false, "tag": "<KO>", "src_tag": "<EN>", "tgt_tag": "<KO>", "source_text": "We flew from Mason Mi to Sturgis Mi and back.", "target_text": "우리는 미시간 메이슨에서 미시간 스터지스까지 비행하고 돌아왔어요.", "text": "<EN> We flew from Mason Mi to Sturgis Mi and back. <KO> 우리는 미시간 메이슨에서 미시간 스터지스까지 비행하고 돌아왔어요.", "content": "<EN> We flew from Mason Mi to Sturgis Mi and back. <KO> 우리는 미시간 메이슨에서 미시간 스터지스까지 비행하고 돌아왔어요."}
 {"id": "wmt24pp:en-zh_CN:test-en-speech_3M_AGbXVb5s_000:710:en->zh", "dataset": "google/wmt24pp", "pair_config": "en-zh_CN", "pair": "en->zh", "source_lang_iso": "en", "target_lang_iso": "zh", "lp": "en-zh_CN", "domain": "speech", "document_id": "test-en-speech_3M_AGbXVb5s_000", "segment_id": 710, "sample_key": "en-zh_CN:test-en-speech_3M_AGbXVb5s_000:710", "is_bad_source": false, "tag": "<ZH>", "src_tag": "<EN>", "tgt_tag": "<ZH>", "source_text": "Now, talking about stars, Howard Jones appears as a special guest vocalist in a duet with you on the album, on the track, I Made a Case, who has offered you so much encouragement with your music. Was it by chance that he happened to appear on the track? As I hear you had to strip back the track, as didn't want anything being in the way of your voices telling the story.", "target_text": "说到明星，霍华德·琼斯作为特邀歌手，与你在专辑的《I Made a Case》曲目中合唱了一曲，他在音乐方面给予了你很多鼓励。他是碰巧出现在这首曲目中的吗？我听说你不得不把这首曲子进行精简，因为你不想让任何东西干扰你用声音讲述故事。", "text": "<EN> Now, talking about stars, Howard Jones appears as a special guest vocalist in a duet with you on the album, on the track, I Made a Case, who has offered you so much encouragement with your music. Was it by chance that he happened to appear on the track? As I hear you had to strip back the track, as didn't want anything being in the way of your voices telling the story. <ZH> 说到明星，霍华德·琼斯作为特邀歌手，与你在专辑的《I Made a Case》曲目中合唱了一曲，他在音乐方面给予了你很多鼓励。他是碰巧出现在这首曲目中的吗？我听说你不得不把这首曲子进行精简，因为你不想让任何东西干扰你用声音讲述故事。", "content": "<EN> Now, talking about stars, Howard Jones appears as a special guest vocalist in a duet with you on the album, on the track, I Made a Case, who has offered you so much encouragement with your music. Was it by chance that he happened to appear on the track? As I hear you had to strip back the track, as didn't want anything being in the way of your voices telling the story. <ZH> 说到明星，霍华德·琼斯作为特邀歌手，与你在专辑的《I Made a Case》曲目中合唱了一曲，他在音乐方面给予了你很多鼓励。他是碰巧出现在这首曲目中的吗？我听说你不得不把这首曲子进行精简，因为你不想让任何东西干扰你用声音讲述故事。"}