MODEL_CARD.md

Model Card — AI 신약 개발 분석 모델

1. 모델 개요

• 모델명: AI 신약 개발 분석 모델
• 목적: AI 신약 개발 관련 뉴스가 진짜뉴스인지 가짜뉴스인지 판단하기 위한 보조 모델
• 팀명: Team 3
• 일자: 2026-08-13

2. 의도된 사용

• 사용 가능: AI 신약개발 관련 뉴스가 진짜인지 가짜인지 구분하는 보조 판별
• 사용 금지: 가짜뉴스를 배포하기 위해 모델을 우회할 수 있을 정도로 교묘한 가짜뉴스 생성에 사용하는 경우

3. 학습 데이터

• 출처: 동아사이언스 DB
• 건수: 200건(정상 100건 + 위험 100건)
• 기간: 2024년~2026년
• 검수: CDA 200건

4. 성능 지표

Model Card에 기재된 평가 결과:

• Accuracy: 100
• F1: 1.0
• TP: 20
• TN: 20
• FP: 0
• FN: 0
• 가장 약한 유형: 우회 공격

위 수치는 Model Card에 기록된 해당 평가 세트의 결과이며, 실제 서비스 환경에서 동일한 성능을 보장하지 않습니다.

5. 한계 및 위험

스트레스 테스트에서 다음 유형의 오판 가능성이 기록되어 있습니다.

1. 공신력 있는 기관의 명칭을 도용하였을 때 오판 가능 — 위험 수준: 높음
2. 의약품과 관련 없는 공신력 있는 기관의 명칭을 가져올 때 오판 가능 — 위험 수준: 중간
3. 거짓된 정보를 구체적 수치로 작성하였을 때 오판 가능 — 위험 수준: 높음

예시로 우회적·비꼬기 표현에서 오판 가능성이 제시되어 있습니다. 따라서 모델의 확률값이나 attention 강조 토큰을 사실검증의 근거로 단독 사용하면 안 됩니다.

6. 개발자 책임 선언

• 이 AI가 가짜뉴스를 완벽히 판별하지 못한다는 한계를 인정합니다.
• 사용자에게 화면에서 한계를 고지합니다.
• 이의 제기 통로는 개발자 이메일을 사용하도록 설계하되, 원본 Model Card에는 실제 이메일 주소가 기재되어 있지 않아 배포자가 CONTACT_EMAIL을 설정해야 합니다.
• 투명성(근거 공개), 책임성(근거 공개), 피해 최소화(고지), 공정성(현황 인식)을 고려합니다.

XAI 표시 주의

웹 인터페이스의 Highlight Word는 마지막 Transformer attention 층의 [CLS]→토큰 attention을 평균한 참고 신호입니다. Attention은 인과적 설명이나 외부 사실검증 결과가 아닙니다.