| {
|
| "total_records": 6000,
|
| "label_distribution": {
|
| "0": 4512,
|
| "1": 1488
|
| },
|
| "source_distribution": {
|
| "afamily": 1000,
|
| "kenh14": 1000,
|
| "nhandan": 1000,
|
| "soha": 1000,
|
| "thanhnien": 1000,
|
| "tuoitre": 1000
|
| },
|
| "quality_threshold": 4,
|
| "annotation_models": [
|
| "qwen2.5:3b-instruct-q4_K_M",
|
| "gemma2:2b-instruct-q4_K_M"
|
| ],
|
| "annotation_method": "rubric-based dual-model ensemble with human review",
|
| "iaa": {
|
| "cohens_kappa": 0.0598,
|
| "cohens_kappa_ci": [
|
| 0.0541,
|
| 0.0669
|
| ],
|
| "cohens_kappa_interpretation": "Slight",
|
| "observed_agreement": 0.3441,
|
| "expected_agreement": 0.3024,
|
| "n_samples": 5995,
|
| "gwets_ac1": -0.276,
|
| "krippendorff_alpha": -0.0845,
|
| "fleiss_kappa": -0.2689,
|
| "fleiss_n_raters": 3,
|
| "breakdown": {
|
| "by_source": {
|
| "afamily": {
|
| "kappa": 0.0484,
|
| "n_samples": 999,
|
| "observed_agreement": 0.2893,
|
| "interpretation": "Slight",
|
| "gwet_ac1": -0.4214
|
| },
|
| "kenh14": {
|
| "kappa": 0.0488,
|
| "n_samples": 1000,
|
| "observed_agreement": 0.284,
|
| "interpretation": "Slight",
|
| "gwet_ac1": -0.4258
|
| },
|
| "nhandan": {
|
| "kappa": 0.0012,
|
| "n_samples": 999,
|
| "observed_agreement": 0.6136,
|
| "interpretation": "Slight",
|
| "gwet_ac1": 0.4376
|
| },
|
| "soha": {
|
| "kappa": 0.0369,
|
| "n_samples": 999,
|
| "observed_agreement": 0.2573,
|
| "interpretation": "Slight",
|
| "gwet_ac1": -0.4849
|
| },
|
| "thanhnien": {
|
| "kappa": 0.0203,
|
| "n_samples": 999,
|
| "observed_agreement": 0.2943,
|
| "interpretation": "Slight",
|
| "gwet_ac1": -0.3528
|
| },
|
| "tuoitre": {
|
| "kappa": 0.0338,
|
| "n_samples": 999,
|
| "observed_agreement": 0.3263,
|
| "interpretation": "Slight",
|
| "gwet_ac1": -0.2784
|
| }
|
| },
|
| "by_class": {
|
| "clickbait": {
|
| "kappa": 0.015,
|
| "n_samples": 1488,
|
| "observed_agreement": 0.33,
|
| "interpretation": "Slight"
|
| },
|
| "non_clickbait": {
|
| "kappa": 0.0128,
|
| "n_samples": 4507,
|
| "observed_agreement": 0.3488,
|
| "interpretation": "Slight"
|
| }
|
| },
|
| "by_confidence": {
|
| "<0.60": {
|
| "kappa": 0.0441,
|
| "n_samples": 2873,
|
| "observed_agreement": 0.3759,
|
| "interpretation": "Slight"
|
| },
|
| "0.60-0.74": {
|
| "kappa": -0.0252,
|
| "n_samples": 318,
|
| "observed_agreement": 0.0409,
|
| "interpretation": "Poor"
|
| },
|
| "0.75-0.89": {
|
| "kappa": -0.0066,
|
| "n_samples": 1465,
|
| "observed_agreement": 0.0594,
|
| "interpretation": "Poor"
|
| },
|
| "0.90+": {
|
| "kappa": 0.3712,
|
| "n_samples": 1339,
|
| "observed_agreement": 0.6594,
|
| "interpretation": "Fair"
|
| }
|
| }
|
| },
|
| "disagreement_analysis": {
|
| "total_disagreements": 3932,
|
| "disagreement_rate": 0.6559,
|
| "resolved_by_human": 3512,
|
| "both_models_wrong_vs_final": 0,
|
| "samples": [
|
| {
|
| "id": "afamily_a7acfd2fba7b",
|
| "source": "afamily",
|
| "title": "1 bệnh viện ở Đà Nẵng khiến khách Tây thốt lên sau trải nghiệm: \"Tôi đã bị con gái lừa... nhưng đó là cú lừa vô cùng hạnh phúc\"",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.0,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_9dfa4167b2cd",
|
| "source": "afamily",
|
| "title": "70 tỷ cho biệt thự 270m2 của Tóc Tiên từng ở: Mức giá gây choáng đúng chuẩn \"địa thế\" khu đất thượng lưu ở TP.HCM",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 1.0,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_1cbc2ce9e7d9",
|
| "source": "afamily",
|
| "title": "Không chỉ đẹp: Những mẫu đồ bơi này còn cực kỳ",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.0,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_0ca00b8ca279",
|
| "source": "afamily",
|
| "title": "Họp lớp, lớp trưởng \"bay sạch\" 57 triệu đồng vì gửi nhầm tiền: Sáng hôm sau, cả nhóm đồng loạt làm một việc",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.0,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_eca34f10e67e",
|
| "source": "afamily",
|
| "title": "4 lời khuyên dành cho các gia đình đang trồng cây hạnh phúc",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.0,
|
| "model_b_confidence": 0.8,
|
| "final_label": 0,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_93bbd13a998c",
|
| "source": "afamily",
|
| "title": "Hương Giang chính thức lên tiếng vụ fan chi gần 100 triệu đồng để vote nhưng vẫn bị ngó lơ, không mời dự tiệc",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_40f6cd82d503",
|
| "source": "afamily",
|
| "title": "NSƯT nghèo đến nỗi phải ăn lá cây: Giờ là phó chủ tịch ở biệt thự giữa quận 7, showbiz ai cũng phải kính nể",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.0,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_2a2ad3a977c7",
|
| "source": "afamily",
|
| "title": "Vừa truyền máu vừa ôm con, mẹ đơn thân 3 con vượt bệnh hiểm để thực hiện ước mơ",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.9,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_a395b1633c64",
|
| "source": "afamily",
|
| "title": "\"Đánh liều\" gửi email cho Tổng thống, nam sinh TP.HCM nhận được kết quả bất ngờ sau 5 tiếng: Hành trình sau đó quá đáng nể!",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_e3e5bc90e01d",
|
| "source": "afamily",
|
| "title": "Thạc sĩ đại học top 1 bỏ công việc \"trong mơ\" đi làm nghề phun chân mày, nay kiếm gần 390 triệu đồng/tháng",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.85,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_2960b9593f38",
|
| "source": "afamily",
|
| "title": "Gia Lai: Nam sinh viên tử vong khi tắm suối tại Khu du lịch sinh thái Hầm Hô",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 1.0,
|
| "model_b_confidence": 0.8,
|
| "final_label": 0,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_fbc2ea7a8567",
|
| "source": "afamily",
|
| "title": "Mỹ nhân nóng bóng trở lại sau 12 năm \"mất tích\" khỏi showbiz, nhìn hình ảnh hiện tại ai cũng bất ngờ",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_5a700e3514af",
|
| "source": "afamily",
|
| "title": "Làm rõ thông tin 'đĩa cơm vỉa hè giá 100.000 đồng' ở Huế",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 1.0,
|
| "model_b_confidence": 0.8,
|
| "final_label": 0,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_db07702f2ff4",
|
| "source": "afamily",
|
| "title": "Một tháng ở viện dưỡng lão tốn bao nhiêu tiền? U50 cần chuẩn bị ngay",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 1.0,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_c8eb71828d55",
|
| "source": "afamily",
|
| "title": "HUFLIT xét học bạ nhận học bổng từ 15/4: Chủ động chọn tương lai, chinh phục ước mơ đại học",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.95,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_fdcb83801f07",
|
| "source": "afamily",
|
| "title": "Hình ảnh Xoài Non mới nhất: \"Nó Tâm Tít mà nó Lisa\"",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_6893e7cc1a25",
|
| "source": "afamily",
|
| "title": "Sau vụ nghi ngộ độc thực phẩm ở Trường Tiểu học Đặng Thùy Trâm, hơn 5.000 học sinh ở TP.HCM dừng ăn bán trú",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_d4207293e55f",
|
| "source": "afamily",
|
| "title": "Khẩu khai chiêu họa, lời ra thành vạ: 3 con giáp cẩn thận đón thị phi trong tháng 6",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_e3fcaf31455d",
|
| "source": "afamily",
|
| "title": "Hoa hậu Việt từng là nữ hoàng ảnh lịch, rời showbiz sống bí ẩn suốt 30 năm",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.9,
|
| "final_label": 1,
|
| "status": "accepted"
|
| },
|
| {
|
| "id": "afamily_e9dbfb23cc1a",
|
| "source": "afamily",
|
| "title": "30 năm trước của dàn tiếp viên hàng không, hoa hậu, hoa khôi nổi tiếng Việt Nam: Mẹ mỹ nhân, sinh ra con cực phẩm!",
|
| "model_a_label": 0.0,
|
| "model_b_label": 1.0,
|
| "model_a_confidence": 0.8,
|
| "model_b_confidence": 0.8,
|
| "final_label": 1,
|
| "status": "accepted"
|
| }
|
| ]
|
| },
|
| "human_vs_llm": {
|
| "model_a": {
|
| "kappa": 0.078,
|
| "n_samples": 3963,
|
| "observed_agreement": 0.7557,
|
| "interpretation": "Slight"
|
| },
|
| "model_b": {
|
| "kappa": 0.0228,
|
| "n_samples": 3963,
|
| "observed_agreement": 0.3,
|
| "interpretation": "Slight"
|
| }
|
| },
|
| "warnings": [
|
| "Low Cohen's Kappa (0.0598 < 0.60) - substantial agreement threshold failed."
|
| ],
|
| "passes_threshold": false
|
| },
|
| "sources": [
|
| "afamily",
|
| "kenh14",
|
| "nhandan",
|
| "soha",
|
| "thanhnien",
|
| "tuoitre"
|
| ],
|
| "date_range": {
|
| "first_crawl": "2026-06-05T08:36:34.363453+00:00",
|
| "last_crawl": "2026-06-05T08:39:37.168790+00:00"
|
| },
|
| "fields": [
|
| "id",
|
| "title",
|
| "sapo",
|
| "body_preview",
|
| "url",
|
| "source",
|
| "source_category",
|
| "publish_date",
|
| "crawl_timestamp",
|
| "final_label",
|
| "confidence",
|
| "status",
|
| "rubric_total",
|
| "model_a_label",
|
| "model_b_label",
|
| "model_a_rubric_scores",
|
| "model_b_rubric_scores",
|
| "quality_score",
|
| "quality_breakdown",
|
| "human_verified",
|
| "human_label",
|
| "crawl_method",
|
| "feed_type",
|
| "extraction_success"
|
| ]
|
| } |
