Hugging Face's logo

Datasets:
bbanany
/
step4_sllm_v2

Tasks:
Text Classification
Modalities:
Text
Formats:
json
Languages:
Korean
Size:
10K - 100K
Tags:
pii
privacy
korean
Synthetic
qwen
Libraries:
Datasets
pandas
Polars
Dataset card Data Studio Files
xet
 Community
1
bbanany commited on
Commit
97c702e
·
verified ·
1 Parent(s): 55ff656

Upload final 10K Korean PII classification dataset

Browse files
Files changed (12) hide show
  1. README.md +70 -0
  2. step4_final_10000_canonical.jsonl +0 -0
  3. step4_final_10000_index.jsonl +0 -0
  4. step4_final_10000_quality_report.json +223 -0
  5. step4_final_10000_quality_report.md +39 -0
  6. step4_final_10000_qwen_all.jsonl +0 -0
  7. step4_final_10000_qwen_test.jsonl +0 -0
  8. step4_final_10000_qwen_train.jsonl +0 -0
  9. step4_final_10000_qwen_valid.jsonl +0 -0
  10. step4_final_10000_sentence_review_5_rounds.md +81 -0
  11. step4_final_10000_statistics.json +209 -0
  12. step4_final_10000_test_review.md +0 -0
README.md ADDED
@@ -0,0 +1,70 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ pretty_name: Korean Step 4 PII Candidate Classification
3
+ language:
4
+ - ko
5
+ task_categories:
6
+ - text-classification
7
+ tags:
8
+ - pii
9
+ - privacy
10
+ - korean
11
+ - synthetic
12
+ - qwen
13
+ size_categories:
14
+ - 10K<n<100K
15
+ configs:
16
+ - config_name: default
17
+ data_files:
18
+ - split: train
19
+ path: step4_final_10000_qwen_train.jsonl
20
+ - split: validation
21
+ path: step4_final_10000_qwen_valid.jsonl
22
+ - split: test
23
+ path: step4_final_10000_qwen_test.jsonl
24
+ ---
25
+
26
+ # Step 4 PII 후보 판정 데이터셋 — 최종 10,000개
27
+
28
+ RAG 답변에서 상위 NER 단계가 추출한 후보가 문맥상 특정 자연인의 개인정보인지 `PII` 또는 `NOT_PII`로 판정하도록 Qwen을 SFT하기 위한 합성 데이터셋이다.
29
+
30
+ ## 바로 사용하는 파일
31
+
32
+ - `step4_final_10000_qwen_train.jsonl`: 학습 8,000개
33
+ - `step4_final_10000_qwen_valid.jsonl`: 검증 1,000개
34
+ - `step4_final_10000_qwen_test.jsonl`: 최종 평가 1,000개
35
+ - `step4_final_10000_qwen_all.jsonl`: 전체 확인용 10,000개
36
+
37
+ 각 행의 최상위 필드는 `messages` 하나뿐이며 `system`, `user`, `assistant` 순서다. 학습 시 Qwen tokenizer의 chat template를 적용하고 assistant 응답 부분에만 loss를 계산한다.
38
+
39
+ ## 관리·검수 파일
40
+
41
+ - `step4_final_10000_canonical.jsonl`: 문장, 후보, span, 라벨, 생성 구조를 보존한 기준 원본
42
+ - `step4_final_10000_index.jsonl`: Qwen 파일 행과 canonical ID의 대응표
43
+ - `step4_final_10000_statistics.json`: 분할·태그·라벨·다양성 통계와 해시
44
+ - `step4_final_10000_quality_report.md`: 9회 전수 검수 결과
45
+ - `step4_final_10000_sentence_review_5_rounds.md`: 문장 자연스러움·의미·반복·관점을 개선한 추가 5회 재검수 결과
46
+ - `step4_final_10000_test_review.md`: 테스트 1,000개를 읽기 쉽게 정리한 문서
47
+
48
+ ## 구성
49
+
50
+ - 프로필 1,000개 × 태그 10개 = 10,000개
51
+ - train/valid/test = 8,000/1,000/1,000
52
+ - 태그별 1,000개
53
+ - 태그별 PII/NOT_PII = 500/500
54
+ - 프로필별 PII/NOT_PII = 5/5
55
+ - 프로필 단위 split 고정
56
+
57
+ ## 다양성 원칙
58
+
59
+ CAPID의 현실적인 상황·구체적 주변 문맥 원칙과 ASQ-PHI의 질의·기록·메모형 표현 다양성을 참고했다. 우리 Step 4 입력에 맞게 답변당 후보는 하나만 두었고, 50개 담화 프레임, 라벨별 20개 주장 형식, 라벨별 25개 배경 및 25개 후속 행동, 태그별 비개인 맥락을 조합했다. 1인칭 PII에는 별도의 배경 25종과 후속 행동 25종을 적용해 서술 관점을 통일했다.
60
+
61
+ 후보 문자열을 태그 토큰으로 치환한 뒤에도 10,000개 문맥이 모두 다르며, 구조 시그니처도 10,000개가 서로 다르다.
62
+
63
+ ## 범위
64
+
65
+ 후보는 합성 프로필에서 확정한 gold 후보다. 실제 운영 NER의 오탐 빈도 자체를 재현한 데이터는 아니지만, NER 후보를 받은 뒤 문맥에 따라 PII 여부를 판정하는 최종 Step 4 학습 구조와 동일하다.
66
+
67
+ 이 데이터는 합성 데이터이며 실존 인물의 개인정보를 수집한 데이터가 아니다. 현재
68
+ validation/test는 프로필 단위로 train과 분리되어 있지만 생성 프레임과 문장 조각을
69
+ 공유한다. 따라서 두 분할은 인도메인 진단용으로 사용하고, 운영 일반화 성능은 실제
70
+ 문장 또는 생성 템플릿까지 독립적인 외부 평가 세트로 별도 측정해야 한다.
step4_final_10000_canonical.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
step4_final_10000_index.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
step4_final_10000_quality_report.json ADDED
@@ -0,0 +1,223 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "dataset": "step4_final_10000",
3
+ "result": "PASS",
4
+ "total_records": 10000,
5
+ "exhaustive_passes": 9,
6
+ "total_record_checks": 90000,
7
+ "passes": [
8
+ {
9
+ "pass": 1,
10
+ "name": "스키마·식별자 무결성",
11
+ "records_checked": 10000,
12
+ "checks": [
13
+ "전체 10,000건",
14
+ "고유 id",
15
+ "후보 1개",
16
+ "허용 태그",
17
+ "허용 라벨",
18
+ "빈 답변 없음"
19
+ ],
20
+ "issue_count": 0,
21
+ "status": "PASS",
22
+ "issue_samples": [
23
+
24
+ ]
25
+ },
26
+ {
27
+ "pass": 2,
28
+ "name": "분할·태그·라벨 균형",
29
+ "records_checked": 10000,
30
+ "checks": [
31
+ "8:1:1 분할",
32
+ "분할별 50:50 라벨",
33
+ "태그별 1,000건",
34
+ "태그별 500:500 라벨"
35
+ ],
36
+ "issue_count": 0,
37
+ "status": "PASS",
38
+ "issue_samples": [
39
+
40
+ ]
41
+ },
42
+ {
43
+ "pass": 3,
44
+ "name": "프로필 원천·후보 span 대조",
45
+ "records_checked": 10000,
46
+ "checks": [
47
+ "프로필 필드값 일치",
48
+ "0 기반 exclusive span",
49
+ "answer[start:end] 일치",
50
+ "후보 1회 출현"
51
+ ],
52
+ "issue_count": 0,
53
+ "status": "PASS",
54
+ "issue_samples": [
55
+
56
+ ]
57
+ },
58
+ {
59
+ "pass": 4,
60
+ "name": "중복·구조 다양성",
61
+ "records_checked": 10000,
62
+ "checks": [
63
+ "완전 중복 0",
64
+ "공백 정규화 중복 0",
65
+ "후보값 치환 후 문맥 중복 0",
66
+ "구조 조합 10,000개 고유"
67
+ ],
68
+ "issue_count": 0,
69
+ "status": "PASS",
70
+ "issue_samples": [
71
+
72
+ ]
73
+ },
74
+ {
75
+ "pass": 5,
76
+ "name": "한국어 표면·문장부호 검사",
77
+ "records_checked": 10000,
78
+ "checks": [
79
+ "길이 55~260자",
80
+ "미치환 표식 없음",
81
+ "이중 공백 없음",
82
+ "문장부호 오류 없음",
83
+ "서술어 중복 없음",
84
+ "괄호 균형"
85
+ ],
86
+ "issue_count": 0,
87
+ "status": "PASS",
88
+ "issue_samples": [
89
+
90
+ ]
91
+ },
92
+ {
93
+ "pass": 6,
94
+ "name": "내용·라벨 의미 일치",
95
+ "records_checked": 10000,
96
+ "checks": [
97
+ "PII는 특정 자연인 속성",
98
+ "NOT_PII는 예시·선택지·기관·행사 맥락",
99
+ "생성 계열과 정답 일치",
100
+ "직접 귀속 충돌 없음"
101
+ ],
102
+ "issue_count": 0,
103
+ "status": "PASS",
104
+ "issue_samples": [
105
+
106
+ ]
107
+ },
108
+ {
109
+ "pass": 7,
110
+ "name": "프로필 분할 누수·태그 완결성",
111
+ "records_checked": 10000,
112
+ "checks": [
113
+ "프로필별 10개 태그",
114
+ "프로필별 5:5 라벨",
115
+ "프로필은 한 split에만 존재",
116
+ "고유 프로필 1,000개"
117
+ ],
118
+ "issue_count": 0,
119
+ "status": "PASS",
120
+ "issue_samples": [
121
+
122
+ ]
123
+ },
124
+ {
125
+ "pass": 8,
126
+ "name": "조합형 어휘 중복 검사",
127
+ "records_checked": 10000,
128
+ "checks": [
129
+ "인접 명사 중복 없음",
130
+ "시나리오·일반 명사 충돌 없음",
131
+ "시간 연결 표현 중복 없음"
132
+ ],
133
+ "issue_count": 0,
134
+ "status": "PASS",
135
+ "issue_samples": [
136
+
137
+ ]
138
+ },
139
+ {
140
+ "pass": 9,
141
+ "name": "출력 재파싱·Qwen 추적 검증",
142
+ "records_checked": 10000,
143
+ "checks": [
144
+ "모든 JSONL 재파싱",
145
+ "messages 단일 최상위 필드",
146
+ "system/user/assistant 역할",
147
+ "user 정답 누수 없음",
148
+ "canonical 10,000건 추적 일치",
149
+ "export span 일치",
150
+ "all=train+valid+test"
151
+ ],
152
+ "issue_count": 0,
153
+ "status": "PASS",
154
+ "issue_samples": [
155
+
156
+ ]
157
+ }
158
+ ],
159
+ "diversity": {
160
+ "unique_answers": 10000,
161
+ "unique_whitespace_normalized_answers": 10000,
162
+ "unique_candidate_normalized_contexts": 10000,
163
+ "unique_structure_signatures": 10000,
164
+ "discourse_frames": 50,
165
+ "claim_forms_per_label": 20,
166
+ "reason_clauses_per_label": 25,
167
+ "action_clauses_per_label": 25,
168
+ "tag_specific_negative_scenarios": 120,
169
+ "frame_counts": {
170
+ "frame_01": 200,
171
+ "frame_02": 200,
172
+ "frame_03": 200,
173
+ "frame_04": 200,
174
+ "frame_05": 200,
175
+ "frame_06": 200,
176
+ "frame_07": 200,
177
+ "frame_08": 200,
178
+ "frame_09": 200,
179
+ "frame_10": 200,
180
+ "frame_11": 200,
181
+ "frame_12": 200,
182
+ "frame_13": 200,
183
+ "frame_14": 200,
184
+ "frame_15": 200,
185
+ "frame_16": 200,
186
+ "frame_17": 200,
187
+ "frame_18": 200,
188
+ "frame_19": 200,
189
+ "frame_20": 200,
190
+ "frame_21": 200,
191
+ "frame_22": 200,
192
+ "frame_23": 200,
193
+ "frame_24": 200,
194
+ "frame_25": 200,
195
+ "frame_26": 200,
196
+ "frame_27": 200,
197
+ "frame_28": 200,
198
+ "frame_29": 200,
199
+ "frame_30": 200,
200
+ "frame_31": 200,
201
+ "frame_32": 200,
202
+ "frame_33": 200,
203
+ "frame_34": 200,
204
+ "frame_35": 200,
205
+ "frame_36": 200,
206
+ "frame_37": 200,
207
+ "frame_38": 200,
208
+ "frame_39": 200,
209
+ "frame_40": 200,
210
+ "frame_41": 200,
211
+ "frame_42": 200,
212
+ "frame_43": 200,
213
+ "frame_44": 200,
214
+ "frame_45": 200,
215
+ "frame_46": 200,
216
+ "frame_47": 200,
217
+ "frame_48": 200,
218
+ "frame_49": 200,
219
+ "frame_50": 200
220
+ }
221
+ },
222
+ "note": "각 검수 회차는 전체 10,000건을 대상으로 수행한 결정적 규칙 기반 검사입니다."
223
+ }
step4_final_10000_quality_report.md ADDED
@@ -0,0 +1,39 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Step 4 최종 10,000개 품질 검수 보고서
2
+
3
+ - 최종 결과: **PASS**
4
+ - 전체 데이터: 10,000건
5
+ - 전수 검수: 9회
6
+ - 누적 레코드 검사: 90000건
7
+ - 완전 중복 문장: 0건
8
+ - 후보값 치환 후 중복 문맥: 0건
9
+ - 중복 구조 시그니처: 0건
10
+
11
+ ## 검수 회차
12
+
13
+ | 회차 | 검수 영역 | 검사 건수 | 오류 | 결과 |
14
+ |---:|---|---:|---:|---|
15
+ | 1 | 스키마·식별자 무결성 | 10000 | 0 | PASS |
16
+ | 2 | 분할·태그·라벨 균형 | 10000 | 0 | PASS |
17
+ | 3 | 프로필 원천·후보 span 대조 | 10000 | 0 | PASS |
18
+ | 4 | 중복·구조 다양성 | 10000 | 0 | PASS |
19
+ | 5 | 한국어 표면·문장부호 검사 | 10000 | 0 | PASS |
20
+ | 6 | 내용·라벨 의미 일치 | 10000 | 0 | PASS |
21
+ | 7 | 프로필 분할 누수·태그 완결성 | 10000 | 0 | PASS |
22
+ | 8 | 조합형 어휘 중복 검사 | 10000 | 0 | PASS |
23
+ | 9 | 출력 재파싱·Qwen 추적 검증 | 10000 | 0 | PASS |
24
+
25
+ ## 검수 범위
26
+
27
+ 1. 스키마와 식별자
28
+ 2. 분할·태그·라벨 균형
29
+ 3. 프로필 원천값·후보 span
30
+ 4. 완전 중복·공백 정규화 중복·후보 치환 중복·구조 중복
31
+ 5. 한국어 길이·띄어쓰기·문장부호·괄호·미치환 표식
32
+ 6. 특정인 귀속 여부와 정답 라벨의 의미 일치
33
+ 7. 프로필 단위 분할 누수와 태그 완결성
34
+ 8. 조합형 어휘 중복과 시간 연결 표현
35
+ 9. 최종 Qwen 파일 재파싱과 canonical 추적
36
+
37
+ ## 해석 시 주의
38
+
39
+ 검수는 전체 데이터를 대상으로 한 규칙 기반 전수 검사다. 자연어의 모든 미묘한 어색함을 수학적으로 보증하는 방식은 아니므로, 별도 테스트 검수본도 함께 제공한다.
step4_final_10000_qwen_all.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
step4_final_10000_qwen_test.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
step4_final_10000_qwen_train.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
step4_final_10000_qwen_valid.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
step4_final_10000_sentence_review_5_rounds.md ADDED
@@ -0,0 +1,81 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 최종 10,000개 문장 품질 5회 재검수 보고서
2
+
3
+ - 대상: `step4_final_10000_canonical.jsonl` 10,000건 및 파생 Qwen 학습 파일
4
+ - 검수일: 2026-07-27
5
+ - 방식: 매 회차마다 10,000건 전체 규칙 검사와 해당 회차의 생성 요소 전수 비교를 수행하고, 태그·라벨·프레임·주장형을 층화해 실제 문장을 읽어 수정했다.
6
+ - 참고: “전체 검사”는 10,000건에 대한 자동 규칙·통계 검사와 생성 패턴 전수 검사를 뜻한다. 모든 문장을 사람이 처음부터 끝까지 5번 읽었다는 뜻은 아니다.
7
+
8
+ ## 1차 — 조사·어미·후보값 인접 문법
9
+
10
+ - 10,000건에서 후보값 뒤의 `이/가`, `을/를`, `이라는/라는`, `이었습니다/였습니다` 선택을 검사했다.
11
+ - 조사 오류는 발견되지 않았다.
12
+ - NOT_PII 주장형 가운데 문장이 길고 기계적으로 들리던 두 형식을 수정했다.
13
+ - `구성 요소 가운데 하나가` → `쓰인 값 중 하나는`
14
+ - `문구를 점검하며 … 입력했습니다` → `…을/를 점검하는 과정에서 …을/를 입력했습니다`
15
+ - 수정 후 전체 데이터를 다시 생성했다.
16
+
17
+ ## 2차 — 담화 흐름과 문장 순서
18
+
19
+ - 50개 담화 프레임마다 대표 문장을 추출해 이유·핵심 내용·후속 조치의 순서를 비교했다.
20
+ - 행동이 이유보다 먼저 나오거나, 후속 조치가 핵심 내용보다 먼저 배치되던 프레임을 교정했다.
21
+ - 세미콜론에 의존하던 연결, `접수부터 확인까지`처럼 NOT_PII 문맥과 맞지 않던 도입부, 역순을 전제로 한 `그 전에` 표현을 자연스러운 연결문으로 바꿨다.
22
+ - 수정 후 50개 프레임을 다시 확인하고 전체 데이터를 재생성했다.
23
+
24
+ ## 3차 — 태그·라벨별 의미 개연성
25
+
26
+ - 10개 태그 × 2개 라벨의 20개 조합을 층화 검토했다.
27
+ - 특정 자연인과 연결되는 PII 문장과 예시·시안·교육 자료를 나타내는 NOT_PII 문장이 의미상 분리되는지 검사했다.
28
+ - 후보 의미와 맞지 않던 표현을 바로잡았다.
29
+ - `소속 회사` → `소속 조직`
30
+ - `세미나 개최 장소 안내` → `세미나 참가 기관 안내`
31
+ - `지역 문화 전시의 소개 순서` → `지역 문화 전시의 도시 목록`
32
+ - `모집 직급` → `모집 직무`
33
+ - `유전형 예시` → `혈액형 예시`
34
+ - `비개인 분류 사례` → `일반 분류 사례`
35
+ - `어느 계정에도 연결되지 않는 시안` → `실제 계정과 분리된 화면 시안`
36
+ - 주장과 배경의 의미 순서가 어긋난 프레임도 함께 수정한 뒤 재생성했다.
37
+
38
+ ## 4차 — 반복 어휘와 기계적 문체
39
+
40
+ - 답변 내부의 `확인`, `결과`, `예시`, `항목`, `검토` 반복 횟수와 인접 중복 어절을 전체 검사했다.
41
+ - 프레임 도입부와 연결어를 `정리`, `파악`, `핵심 내용`, `검토 배경` 등으로 분산했다.
42
+ - NOT_PII 배경·행동의 반복적인 `예시` 표현을 `샘플`, `사례`, `연습용`으로 자연스럽게 바꿨다.
43
+ - 개선 결과:
44
+ - `확인`의 답변당 최대 반복: 5회 → 3회
45
+ - `예시`의 답변당 최대 반복: 3회 → 2회
46
+ - 핵심 검사 단어가 답변 하나에서 4회 이상 반복되는 사례: 0건
47
+ - 동일 어절의 인접 반복: 0건
48
+ - 수정 후 전체 데이터를 재생성했다.
49
+
50
+ ## 5차 — 주장형·프레임·관점 층화 최종 검수
51
+
52
+ - PII/NOT_PII 주장형 40개, 담화 프레임 50개, 태그·라벨 조합 20개를 빠짐없이 층화 검토했다.
53
+ - `저는/제`를 쓰는 PII 주장 250건에 3인칭 처리 경위가 연결되는 관점 불일치를 발견했다.
54
+ - 1인칭 PII 전용 배경 25종과 후속 행동 25종을 추가해 250건의 서술 관점을 통일했다.
55
+ - `상담 메모가 가리키는 사람`을 `상담 메모에 적힌 사람`으로, `편집하며 남긴 항목`을 `추가한 값`으로 바꾸는 등 남은 기계적 표현을 정리했다.
56
+ - 수정 후 전체 데이터를 다시 생성하고 1인칭 250건을 전수 검사했다.
57
+
58
+ ## 최종 독립 검증 결과
59
+
60
+ | 검사 항목 | 결과 |
61
+ |---|---:|
62
+ | 전체 레코드 | 10,000 |
63
+ | PII / NOT_PII | 5,000 / 5,000 |
64
+ | 태그별 레코드 | 각 1,000 |
65
+ | 완전 동일 답변 | 0 |
66
+ | 후보값 치환 후 동일 문맥 | 0 |
67
+ | 동일 구조 시그니처 | 0 |
68
+ | 후보 span 오류 | 0 |
69
+ | 후보 중복 출현 오류 | 0 |
70
+ | 후보 인접 조사 오류 | 0 |
71
+ | 동일 답변 안의 완전 동일 문장 반복 | 0 |
72
+ | 중복 공백·이중 문장부호·인접 중복 어절 | 0 |
73
+ | 괄호·인용부호 불균형 | 0 |
74
+ | 1인칭 관점 불일치 | 0 |
75
+ | 이전 검수에서 제거한 어색한 구문 재출현 | 0 |
76
+
77
+ 문장 길이는 최소 74자, 최대 178자, 평균 122.88자다. 생성기 내부의 기존 9개 품질 검증도 모두 `PASS`다.
78
+
79
+ ## 최종 판정
80
+
81
+ 5회 재검수와 회차별 재생성을 완료했다. 현재 버전은 문법·담화 순서·태그 의미·문체 반복·서술 관점에 대해 설정한 검증 기���을 모두 통과했다.
step4_final_10000_statistics.json ADDED
@@ -0,0 +1,209 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "seed": 20260727,
3
+ "dataset": "step4-pii-candidate-classification",
4
+ "version": "final-10000-v1",
5
+ "source_references": [
6
+ "sources/capid/prompts/pipeline.j2",
7
+ "sources/capid/data/topic_subtopics_deduplicated.csv (11,663 rows)",
8
+ "sources/asq_phi/synthetic_clinical_queries.txt (1,051 queries)"
9
+ ],
10
+ "adaptation": [
11
+ "CAPID: realistic situation, contextual PII, additional concrete detail",
12
+ "ASQ-PHI: question, case note, concise answer and record-style variation",
13
+ "Ours: one upstream NER candidate per RAG answer, binary PII/NOT_PII validation"
14
+ ],
15
+ "profiles": 1000,
16
+ "records": 10000,
17
+ "candidates": 10000,
18
+ "candidates_per_record": 1,
19
+ "splits": {
20
+ "train": {
21
+ "profiles": 800,
22
+ "records": 8000,
23
+ "PII": 4000,
24
+ "NOT_PII": 4000,
25
+ "tags": {
26
+ "NAME": 800,
27
+ "NICKNAME": 800,
28
+ "WORKPLACE": 800,
29
+ "CITY": 800,
30
+ "POSITION": 800,
31
+ "MAJOR": 800,
32
+ "ADDRESS": 800,
33
+ "RELIGION": 800,
34
+ "GENDER": 800,
35
+ "BLOOD_TYPE": 800
36
+ }
37
+ },
38
+ "valid": {
39
+ "profiles": 100,
40
+ "records": 1000,
41
+ "PII": 500,
42
+ "NOT_PII": 500,
43
+ "tags": {
44
+ "NAME": 100,
45
+ "NICKNAME": 100,
46
+ "WORKPLACE": 100,
47
+ "CITY": 100,
48
+ "POSITION": 100,
49
+ "MAJOR": 100,
50
+ "ADDRESS": 100,
51
+ "RELIGION": 100,
52
+ "GENDER": 100,
53
+ "BLOOD_TYPE": 100
54
+ }
55
+ },
56
+ "test": {
57
+ "profiles": 100,
58
+ "records": 1000,
59
+ "PII": 500,
60
+ "NOT_PII": 500,
61
+ "tags": {
62
+ "NAME": 100,
63
+ "NICKNAME": 100,
64
+ "WORKPLACE": 100,
65
+ "CITY": 100,
66
+ "POSITION": 100,
67
+ "MAJOR": 100,
68
+ "ADDRESS": 100,
69
+ "RELIGION": 100,
70
+ "GENDER": 100,
71
+ "BLOOD_TYPE": 100
72
+ }
73
+ }
74
+ },
75
+ "tags": {
76
+ "NAME": {
77
+ "total": 1000,
78
+ "PII": 500,
79
+ "NOT_PII": 500
80
+ },
81
+ "NICKNAME": {
82
+ "total": 1000,
83
+ "PII": 500,
84
+ "NOT_PII": 500
85
+ },
86
+ "WORKPLACE": {
87
+ "total": 1000,
88
+ "PII": 500,
89
+ "NOT_PII": 500
90
+ },
91
+ "CITY": {
92
+ "total": 1000,
93
+ "PII": 500,
94
+ "NOT_PII": 500
95
+ },
96
+ "POSITION": {
97
+ "total": 1000,
98
+ "PII": 500,
99
+ "NOT_PII": 500
100
+ },
101
+ "MAJOR": {
102
+ "total": 1000,
103
+ "PII": 500,
104
+ "NOT_PII": 500
105
+ },
106
+ "ADDRESS": {
107
+ "total": 1000,
108
+ "PII": 500,
109
+ "NOT_PII": 500
110
+ },
111
+ "RELIGION": {
112
+ "total": 1000,
113
+ "PII": 500,
114
+ "NOT_PII": 500
115
+ },
116
+ "GENDER": {
117
+ "total": 1000,
118
+ "PII": 500,
119
+ "NOT_PII": 500
120
+ },
121
+ "BLOOD_TYPE": {
122
+ "total": 1000,
123
+ "PII": 500,
124
+ "NOT_PII": 500
125
+ }
126
+ },
127
+ "diversity": {
128
+ "unique_answers": 10000,
129
+ "unique_whitespace_normalized_answers": 10000,
130
+ "unique_candidate_normalized_contexts": 10000,
131
+ "unique_structure_signatures": 10000,
132
+ "discourse_frames": 50,
133
+ "claim_forms_per_label": 20,
134
+ "reason_clauses_per_label": 25,
135
+ "action_clauses_per_label": 25,
136
+ "tag_specific_negative_scenarios": 120,
137
+ "frame_counts": {
138
+ "frame_01": 200,
139
+ "frame_02": 200,
140
+ "frame_03": 200,
141
+ "frame_04": 200,
142
+ "frame_05": 200,
143
+ "frame_06": 200,
144
+ "frame_07": 200,
145
+ "frame_08": 200,
146
+ "frame_09": 200,
147
+ "frame_10": 200,
148
+ "frame_11": 200,
149
+ "frame_12": 200,
150
+ "frame_13": 200,
151
+ "frame_14": 200,
152
+ "frame_15": 200,
153
+ "frame_16": 200,
154
+ "frame_17": 200,
155
+ "frame_18": 200,
156
+ "frame_19": 200,
157
+ "frame_20": 200,
158
+ "frame_21": 200,
159
+ "frame_22": 200,
160
+ "frame_23": 200,
161
+ "frame_24": 200,
162
+ "frame_25": 200,
163
+ "frame_26": 200,
164
+ "frame_27": 200,
165
+ "frame_28": 200,
166
+ "frame_29": 200,
167
+ "frame_30": 200,
168
+ "frame_31": 200,
169
+ "frame_32": 200,
170
+ "frame_33": 200,
171
+ "frame_34": 200,
172
+ "frame_35": 200,
173
+ "frame_36": 200,
174
+ "frame_37": 200,
175
+ "frame_38": 200,
176
+ "frame_39": 200,
177
+ "frame_40": 200,
178
+ "frame_41": 200,
179
+ "frame_42": 200,
180
+ "frame_43": 200,
181
+ "frame_44": 200,
182
+ "frame_45": 200,
183
+ "frame_46": 200,
184
+ "frame_47": 200,
185
+ "frame_48": 200,
186
+ "frame_49": 200,
187
+ "frame_50": 200
188
+ }
189
+ },
190
+ "answer_length_characters": {
191
+ "minimum": 74,
192
+ "maximum": 178,
193
+ "average": 122.88
194
+ },
195
+ "quality_passes": 9,
196
+ "quality_status": "PASS",
197
+ "sha256": {
198
+ "step4_final_10000_canonical.jsonl": "0e0e56fafb560b681684634b90b6c84e471ac6966f4bc663d7ce9f0d5b819ee3",
199
+ "step4_final_10000_qwen_all.jsonl": "ddd299df5c737bb27ef826d3747d9973ed93430b8e41b28bd1c7b360630e2018",
200
+ "step4_final_10000_qwen_train.jsonl": "1f6ade2a50acfdcde0a9fc81f4d333223797a96cb29c10937908f306f001dc51",
201
+ "step4_final_10000_qwen_valid.jsonl": "5b63b9654920e1562497d922731639bf2b1fc46458069d28fc3f99dabcad91e8",
202
+ "step4_final_10000_qwen_test.jsonl": "191648968447cb03368283a41cf33327b56e9f86914a80f05c462aab8a77474e",
203
+ "step4_final_10000_index.jsonl": "4b38241d781b84c7869200783c11141cd3489917213073259c7ec4b8eab958a8",
204
+ "step4_final_10000_quality_report.json": "29cfe1edc54d2568b9dd29b6c99aec0ef6c7253cead9b3bddbbb53af71ac3f9a",
205
+ "step4_final_10000_quality_report.md": "9abd6f859987a003f11b35f7614ca84d397f1e9ce975e46202a83d5a676d4d3e",
206
+ "step4_final_10000_test_review.md": "1767e4cab15bcc8d9c72c029ff66eedcfe144c254714c94525ec6930bec350eb",
207
+ "README.md": "1e8706dd3fccb181d2c6142283b6c0ef8a7e8cd56d65b6aff109c207187dbe3a"
208
+ }
209
+ }
step4_final_10000_test_review.md ADDED
The diff for this file is too large to render. See raw diff