Limtat99/zhang2023-internal252502-emb

ESM-2 layer-wise embeddings — Zhang 2023 28-mer peptidome

Zhang et al. 2023 의 GPS peptidome 스크린(Table S2) 28-mer 펩타이드 252,502개(단백질 18,135종)에 대해 ESM-2 의 모든 transformer 레이어 per-residue hidden state 를 뽑고, PSI(Protein Stability Index) 로 회귀/분류를 돌릴 수 있게 peptide_id 조인 키를 함께 넣은 데이터셋입니다 (라벨 자체는 저작권 문제로 미포함 — '라벨 붙이기' 참고). masking 없이 raw forward 1회로 뽑았습니다.

데이터셋 태그: Internal_Zhang2023_252502

구성

폴더	모델	레이어	차원	레이어당	합계
ESM2_8M/	facebook/esm2_t6_8M_UR50D	8 (L0–L6, L6_pre)	320	4.93 GB	39.4 GB
ESM2_650M/	facebook/esm2_t33_650M_UR50D	35 (L0–L33, L33_pre)	1280	19.47 GB	681.6 GB

두 모델 모두 전 레이어 업로드 완료 (8M 8개 / 650M 35개, 총 721 GB). 폴더마다 _manifest.json 에 레이어 목록·차원·dtype 이 들어 있습니다.

레이어 1개 = 파일 1개 입니다. 모든 펩타이드가 28잔기로 길이가 같아서 (N, 30, dim) 통짜 배열로 쌓았습니다. 펩타이드가 25만 개라 개별 파일로 만들면 HF 권장치(폴더당 1만)를 크게 넘습니다.

원본 데이터와 필터

라이브러리는 각 단백질을 28잔기씩 23잔기 간격으로 타일링했습니다 (겹침 5잔기). ID 는 <UniProt>_<Gene>_<tile_idx> 이고 tile_idx 는 1부터 시작합니다.

tile_idx 1 → 단백질 잔기  1~28   (99.9% 가 Met 로 시작 = 진짜 N-말단)
tile_idx 2 → 잔기 24~51
tile_idx 3 → 잔기 47~74

필터	처리
서열이 *(종결코돈) 로 끝남	제외 — ESM alphabet 에 * 가 없어 <unk> 가 됩니다
tile_idx == 1 (N-말단)	유지 (11,467개 포함)

N-말단 타일 11,467개가 들어 있습니다. 빼고 쓰시려면 tile_idx != 1 로 거르면 됩니다 (재추출 불필요).

npz 스키마

embedding          (N, 30, dim)  float16
peptide_id         (N,)  <U           ← 예: Q8IV38_ANKMY2_20
sequence           (N,)  <U28
uniprot_acc        (N,)  <U           ← 단백질 단위 분할용
gene               (N,)  <U
tile_idx           (N,)  int32
row_offset/n_rows        int32        ← 샤드일 때 원본에서의 위치
layer/model/dataset/token_layout      bytes

실제 npz 키는 정확히 다음 12개입니다.

embedding  peptide_id  sequence  uniprot_acc  gene  tile_idx
row_offset  n_rows  layer  model  dataset  token_layout

PSI 라벨은 이 저장소에 포함되어 있지 않습니다. 원 논문이 오픈 액세스가 아니라 Table S2 를 재배포하지 않았습니다. control_psi 같은 라벨 키는 없습니다 — 아래 '라벨 붙이기' 를 보세요.

라벨 붙이기

PSI 값은 원 논문의 Table S2 에 있습니다. 논문에서 직접 받아 peptide_id 로 조인하세요. 행 순서가 보장되지 않으므로 반드시 키로 맞춰야 합니다.

1. Mol Cell 2023, 83(18):3377-3392.e6 의 supplementary 에서 Table S2 를 내려받습니다 (xlsx).
2. 아래처럼 조인합니다.

import numpy as np, pandas as pd

z  = np.load("ESM2_8M/L6.npz")                           # 라벨은 들어있지 않음
df = pd.read_excel("Zhang2023_TableS2.xlsx", header=1)   # 1행은 표 설명문

# 임베딩 행 순서에 맞춰 라벨을 재정렬
lab = df.set_index("Peptide")["Control PSI"]
y   = lab.reindex(z["peptide_id"]).to_numpy(dtype=np.float32)
assert not np.isnan(y).any(), "조인 실패 — Table S2 버전을 확인하세요"

X   = z["embedding"]
grp = z["uniprot_acc"]

MLN4924 deltaPSI, SVM Predicted PSI, Degron Index 도 같은 방식으로 붙입니다.

이 저장소의 서열은 *(종결코돈) 로 끝나는 8,487개를 이미 제외했으므로, Table S2 원본(260,989행)보다 적습니다. reindex 가 그 차이를 자동으로 맞춰줍니다.

레이어 키

키	뜻
L0	transformer block 진입 직전 = embed_tokens(x) * 0.88. 0.88 은 ESM-2 의 token_dropout 보정항 (1 - 0.15*0.8) 로, mask 토큰이 없으면 항상 곱해집니다
L1 … L(n-1)	각 block 출력
Ln	마지막 block 출력에 emb_layer_norm_after 적용 — 보통 말하는 최종 임베딩
Ln_pre	마지막 block 출력, final norm 적용 전

Ln 과 Ln_pre 는 스케일이 크게 다릅니다. fair-esm/HF 모두 마지막 레이어를 post-norm 값으로 덮어쓰기 때문에, Ln_pre 는 emb_layer_norm_after 에 forward hook 을 걸어 받았습니다. 추출 시 LayerNorm(Ln_pre) == Ln 을 검증했습니다.

토큰 축 (axis 1)

axis1 length 30: index0=<cls>(BOS), index1..28=residue 1..28, index29=<eos>

펩타이드 잔기 i (1-based) 는 index i 입니다. BOS/EOS 를 빼려면 arr[:, 1:-1].

⚠ 학습/검증 분할

같은 단백질의 타일끼리 5잔기씩 겹칩니다. 무작위로 나누면 학습셋의 타일과 서열을 공유하는 타일이 검증셋에 들어가 누수가 생깁니다. uniprot_acc 기준 GroupKFold 를 쓰세요.

from sklearn.model_selection import GroupKFold
gkf = GroupKFold(n_splits=5)
for tr, te in gkf.split(X, y, groups=z['uniprot_acc']):
    ...

쓰는 법

import numpy as np
from huggingface_hub import hf_hub_download

p = hf_hub_download("Limtat99/zhang2023-internal252502-emb", "ESM2_650M/L0.npz",
                    repo_type="dataset")
z = np.load(p)
X   = z["embedding"]        # (N, 30, 1280) float16
pid = z["peptide_id"]       # 라벨 조인 키 — '라벨 붙이기' 참고
grp = z["uniprot_acc"]      # GroupKFold 용

# N-말단 타일을 빼고 싶으면
keep = z["tile_idx"] != 1
X, pid, grp = X[keep], pid[keep], grp[keep]

레이어 하나만, 파일 전체를 받지 않고

npz 는 zip 이라 seek 가 되면 필요한 멤버만 읽힙니다.

from huggingface_hub import HfFileSystem
fs = HfFileSystem()
with fs.open("datasets/Limtat99/zhang2023-internal252502-emb/ESM2_650M/L0.npz", "rb") as f:
    z   = np.load(f)
    pid = z["peptide_id"]              # 식별자만 = 수 MB 만 전송
    X   = z["embedding"][:1000]        # 앞 1000행만 = 필요한 바이트만 전송

폴더 통째로

# 전체 = 721 GB. 보통은 필요한 모델/레이어만 받으세요.
hf download Limtat99/zhang2023-internal252502-emb --repo-type dataset \
    --include "ESM2_8M/*" --local-dir ./z28_emb

dataset viewer 는 이 저장소에서 동작하지 않습니다. 레이어별 통짜 npz 구조라 HF 의 자동 parquet 변환(refs/convert/parquet)이 내용을 읽지 못합니다. 위 예제처럼 np.load 로 직접 읽으세요.

추출 조건

항목	값
forward dtype	float32
저장 dtype	float16
압축	없음 (np.savez)
masking	없음 (raw forward)
배치 크기	256 (28-mer 고정길이라 패딩 없음)

fair-esm 과 HuggingFace transformers 두 백엔드가 attn_implementation="eager" 에서 비트 단위로 동일한 결과를 내는 것을 확인했습니다. 레이어를 여러 pass 로 나눠 뽑아도 한 번에 뽑은 것과 비트 단위로 같습니다.

출처 · 인용

펩타이드 서열은 아래 논문의 GPS peptidome 스크린(Table S2)에서 왔습니다. 이 데이터를 쓰시면 원 논문을 인용해 주세요.

Zhang Z, Sie B, Chang A, Leng Y, Nardone C, Timms RT, Elledge SJ. Elucidation of E3 ubiquitin ligase specificity through proteome-wide internal degron mapping. Molecular Cell. 2023 Sep 21;83(18):3377-3392.e6. doi:10.1016/j.molcel.2023.08.022 · PMID 37738965

구성 요소	출처 / 라이선스
펩타이드 서열	인간 프로테옴 (UniProt, CC-BY 4.0) 을 28잔기씩 타일링
PSI 측정값	Zhang et al. 2023 Table S2 — 이 저장소에 포함하지 않음 (아래 참고)
ESM-2 임베딩	이 저장소의 산출물. 모델은 Lin et al., Science 2023 (MIT)

원 논문은 오픈 액세스가 아닙니다 — Copyright © 2023 The Authors. Published by Elsevier Inc. All rights reserved. 그래서 PSI 라벨을 이 저장소에 넣지 않았습니다. 임베딩과 펩타이드 식별자만 배포하고, 라벨은 쓰시는 분이 논문에서 직접 받아 조인하는 방식입니다 (위 '라벨 붙이기').