Smilesjs/Taxonaware-ESM2

Taxonomy-Aware ESM-2: 고도화된 단백질 기능 예측 파이프라인

이 데이터셋 카드는 분류학적 계통(Taxonomy) 인지형 단백질 기능 예측(Protein Function Prediction) 모델 파이프라인과 이에 수반되는 데이터셋을 설명합니다. Meta의 거대 진화적 스케일 언어 모델인 ESM-2의 깊이 있는 단백질 구조 언어 이해 능력과 생물학적 계통 분류(7단계 Taxonomy Lineage) 정보를 융합했습니다. 이를 통해 유전자 온톨로지(GO, Gene Ontology) 다중 레이블 분류 성능을 극대화하고, 단백질의 기능을 정확하게 예측하도록 설계되었습니다.

핵심 기술 혁신 및 주요 성과

1. 단백질 언어 모델(PLM) 백본을 활용한 멀티모달(Multi-modal) 융합

• ESM-2 단백질 언어 모델 활용: 사전 학습된 ESM-2 모델(예: facebook/esm2_t33_650M_UR50D)을 활용해 순수 아미노산 서열 구조로부터 고차원의 특징(Feature)을 효과적으로 추출.
• 7단계 Taxonomy 인코더 설계: Phylum부터 Subspecies에 이르는 계통 트리 전체를 평행한 128차원 인코딩 레이어를 거쳐 연속적인 밀집 벡터 공간으로 매핑, 생물학적 도메인 지식을 딥러닝 모델에 직접 내제화함.
• 멀티 헤드 크로스 어텐션 (MHCA): 단백질 서열을 Query로, 종별 분류 임베딩을 Key/Value로 활용하는 Cross-Attention 기법을 적용하여 종 특이적 진화 맥락을 서열 정보 모델 내부에 주입.

2. 고효율 대형 모델 튜닝 및 엔지니어링 성능 최적화

• LoRA (Low-Rank Adaptation) 통합 구현: 수억 개의 파라미터를 갖는 딥러닝 모델의 구조적 한계(OOM, Out-Of-Memory)를 극복하기 위해 Query/Value 어텐션 매트릭스에 Rank=8의 LoRA 어댑터(PEFT)를 도입. 단일/소규모 GPU 환경에서도 초대용량 모델의 파라미터 미세조정이 가능하도록 메모리 병목현상을 원천 차단.
• 학습 메모리 최적화: PyTorch 기반의 자동 혼합 정밀도 훈련(AMP, autocast 및 GradScaler) 기술을 활용해 연산 속도를 대폭 높이면서도 VRAM 사용량을 절반 수준으로 절감.

3. Long-Tail 생물학적 데이터를 위한 특화 손실 함수 개발

• 커스텀 비대칭 손실 함수 (Asymmetric Loss): 수천~수만 개의 레이블 불균형이 극심한 다중 레이블 온톨로지 데이터셋의 한계를 극복하기 위한 맞춤형 손실 함수(PyTorch) 직접 설계 및 구현.
• 생물학적 정보량(IC) 가중치 통합: 발생 빈도는 적으나 생물학적으로 결정적인 영향을 미치는 주요 기능(Term)을 놓치는 경우 강력한 페널티를 부여하도록, CAFA 평가 표준에 부합하는 Information Content(IC) 가중치를 Loss 계산 로직에 연동함.

4. GPU 가속 기반 대규모 확장성 평가 (Massive Scale Evaluation) 엔진 제작

• OOM 방지 Vectorized 스트리밍 엔진 개발: 수만 개의 정답 레이블과 모델 추론 확률값을 평가셋 전체에서 취합할 때 발생하는 CPU 병목과 RAM 고갈을 자체적인 GPU 스트리밍 추론 루프(evaluate_gpu) 구현으로 방지함.
• 초고속 Multi-Threshold 동시 연산: 100여 개 이상의 신뢰도 임계값(Confidence Threshold)을 GPU 행렬 연산을 통해 동시에 검증함으로써, 모델 검증 속도를 혁신적으로 단축하고 최적의 임계값과 최고 가중합(Weighted F-max) 점수를 즉시 도출해냄.