tim-shu/drug-affinity-multisource

pKi data for the Morgan/RF baseline

Prepared public-source snapshots, molecular structures, labels, source provenance and fixed splits. Main curated corpus: 242,782 pKi pairs; the reported baseline uses 198,254 pairs for 156 targets. This revision contains only the pKi task.

from datasets import load_dataset
data = load_dataset("tim-shu/drug-affinity-multisource", "affinity_pki")
train = data["train"].filter(lambda row: row["benchmark_target"])

Subset	train	validation	test
affinity_pki	195,325	22,818	24,639
chembl_reference	132,328	15,439	16,665
molecules	144,389	0	0
source_observations	313,511	0	0

molecules and source_observations are reference tables. Their train split is a storage convention. Use the affinity tables' scaffold_split labels when joining them.

Labels and features

The model predicts pKi: pKi = -log10(Ki in mol/L) = 9 - log10(Ki in nM). DrugCentral ACT_VALUE is already pKi. Larger pKi means stronger interaction.

smiles describes the molecular structure. target_id is a UniProt accession identifying which per-target RF to use. The RF input is only the radius-2, 2048-bit chiral Morgan fingerprint. Protein sequences in prepared/proteins.parquet support curation checks; they are not model inputs or separate affinity labels. features/fingerprints.npz stores X and matching compound_ids, aligned with molecule_index.

Sources, actual proportions and modifications

The table counts each selected compound/target label once, after curation and baseline target selection. Percentages are within each source row. Headers are Russian to match the executed EDA.

Источник выбранной метки	Обучение: пар (%)	Validation: пар (%)	Test: пар (%)	Из validation для выбора параметров
ChEMBL	136 079 (80.4%)	15 942 (9.4%)	17 320 (10.2%)	15 439
BindingDB	20 653 (80.4%)	2 488 (9.7%)	2 549 (9.9%)	0
DrugCentral	2 668 (82.8%)	210 (6.5%)	345 (10.7%)	0

Only 15,439 original ChEMBL validation pairs select hyperparameters. The other 3,201 validation pairs are diagnostic. All test pairs are reserved for final evaluation. These are globally held-out scaffolds, not independent external source cohorts.

Источник	Что делаем перед использованием
ChEMBL	Точные положительные Ki в нМ; тест связывания с отдельным человеческим белком, confidence 9, без аннотированной мутации. Пересчёт Ki → pKi.
BindingDB	Только Ki из статей и патентов; импорты ChEMBL исключены. Отдельный человеческий белок; последовательность экспериментального белка должна совпадать с участком канонической последовательности UniProt. Пересчёт Ki в нМ → pKi.
DrugCentral	Соединение таблицы активностей со структурами SDF по STRUCT_ID; только человеческие мишени, ACT_TYPE=Ki и RELATION="=". ACT_VALUE уже содержит pKi: повторный логарифм не нужен.

The source-usage table and exact counts are also available in metadata/pki_source_usage.csv and .json.

Dataset selection criteria and exclusions

The criteria and exclusion reasons below match the Russian EDA. Source coverage is evaluated after curation and overlap removal, not by the total database size. PubChem is excluded for insufficient coverage: the previous benchmark retained only 46 selected pairs (42 train, 0 validation, 4 test). The revised RF is refitted without its observations or provenance contributions.

1. Соответствие задаче: количественные Ki для пары «малая молекула — отдельный человеческий белок». Kd, IC50 и составные оценки не заменяют Ki.
2. Готовность к обучению: есть корректная структура SMILES, однозначный ID белка, точное положительное измерение и известные единицы. Ki переводим в pKi; уже готовое pKi повторно не логарифмируем.
3. Качество и происхождение: можно проследить источник измерения, проверить повторы и противоречия. Копии между базами не считаем дополнительными независимыми примерами.
4. Полезное покрытие после очистки и устранения пересечений. Смотрим на оставшиеся уникальные пары и заполненность частей выборки. Для мишени бейзлайна заранее заданы минимум 300 пар, из них ≥100 train, ≥10 validation и ≥10 test; это пороги мишени, а не размера всей базы.
5. Воспроизводимый открытый доступ: данные можно получить, зафиксировать версию и опубликовать подготовленную выборку на Hugging Face с соблюдением условий источника.

Исключённый датасет	Причина
PubChem BioAssay	После очистки и разрешения пересечений в нашем бейзлайне остались только 46 пар: 42 train, 0 validation, 4 test. Малый самостоятельный вклад и отсутствие validation-части.
DAVIS	Метки Kd/pKd вместо Ki/pKi; отдельная задача, не используется для обучения или валидации текущего бейзлайна.
KIBA	Составной KIBA score, объединяющий разные виды активности; его нельзя считать pKi.
PDBbind	Не получена выгрузка с разрешением на использование и публикацию подготовленных данных на Hugging Face.
DrugBank	Академический доступ предоставляется по заявке; разрешённая для публикации выгрузка в проекте не получена.
Open Targets	Связи мишеней с заболеваниями и биомедицинские доказательства не являются количественными метками Ki для этой регрессии.
ClinicalTrials.gov	Сведения о клинических исследованиях и вмешательствах не дают требуемые измерения Ki для пар «молекула — белок».

Curation and source overlap

Only exact, finite Ki measurements are used. Main ChEMBL annotations follow confidence 9, human single-protein and no annotated-variant rules. Native BindingDB observations require a single human protein and an experimental sequence of at least 50 residues matching a contiguous segment of the canonical UniProt sequence. Organic fragments are standardised while retaining charge and stereochemistry; ambiguous mixtures and structures with more than 100 heavy atoms are excluded.

Repeated labels are reduced to a median within each source/pair. Ranges above two p-units are quarantined. Cross-source copies become one pair using ChEMBL > native BindingDB > DrugCentral priority. Discordant auxiliary evidence is flagged; original ChEMBL labels and splits are preserved. Thus extra copies do not count as independent training examples. sources, source_count, cross_source_range, and source_observations retain the provenance.

DrugCentral itself aggregates sources; its upstream_source is retained. Source slices of held-out predictions are not independent external cohorts. The separately imported PubChem source is excluded; historical imports inside other databases cannot always be reconstructed from their annotations.

Evaluation

Original ChEMBL scaffold assignments are immutable. New structures sharing an old scaffold inherit its split; new scaffolds use SHA256(seed|scaffold) for nominal 80/10/10 allocation. All three sources share those molecule groups, so actual row proportions vary. Original chembl_reference validation/test labels are unchanged.

benchmark_target marks targets meeting the declared train/validation/test coverage criteria. Sparse unsupported targets remain available for research; filter this flag to reproduce the reported baseline.

All experiments used validation-only hyperparameter selection. On the same original 131-target test, RF MAE was 0.5845 pKi with ChEMBL alone and 0.5854 after source expansion. Additional data did not improve that test. Full metrics and counts are in metadata/baseline_summary.json.

Limitations

Unknown activity is not a negative label. Missing variant metadata does not establish wild-type status. Laboratories, assay conditions and source selection differ. Predictions describe molecular interactions and require experimental validation for biological or therapeutic use.

Provenance, licenses and attribution

The transformed integrated collection is distributed under CC BY-SA 4.0. Unchanged original reference files in reference/chembl/ retain CC BY-SA 3.0. Original source notices remain applicable; see LICENSES.md. Changes include filtering, structure standardisation, sequence checks, label transformation/aggregation, source reconciliation and fixed splits.

Code and executed EDA: annual project repository. SHA-256 file checksums and retrieval records accompany this release.

For exact local reproduction of the RF runs, download this repository and copy prepared/*.parquet to the project's data/multisource_v3/, features/fingerprints.npz to that same directory, and reference/chembl/* to data/processed/. Run scripts/run_multisource.py --stage train and compare its metrics with the supplied metadata.