Mehdi Ismaili commited on
Commit ·
f076a98
1
Parent(s): b63dae0
add README
Browse files
README.md
ADDED
|
@@ -0,0 +1,113 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Mehd212/camembert-bio-morpho
|
| 2 |
+
|
| 3 |
+
French biomedical **token-classification** model for detecting **morphological terms** (tumour / lesion morphology) in clinical oncology texts.
|
| 4 |
+
|
| 5 |
+
- **Base model**: French biomedical CamemBERT-Bio
|
| 6 |
+
- **Fine-tuned on**: the **FRACCO** corpus (French Clinical Cases in Oncology), using the `morphologie` annotations
|
| 7 |
+
- **Task**: Named Entity Recognition (NER) with a single entity type `MORPHO`
|
| 8 |
+
|
| 9 |
+
This model is intended for research and prototyping, for automatically extracting tumour / lesion morphology mentions from French oncology narratives.
|
| 10 |
+
|
| 11 |
+
---
|
| 12 |
+
|
| 13 |
+
## Usage with 🤗 Transformers
|
| 14 |
+
|
| 15 |
+
```python
|
| 16 |
+
from transformers import AutoTokenizer, AutoModelForTokenClassification, pipeline
|
| 17 |
+
|
| 18 |
+
model = "Mehd212/camembert-bio-morpho"
|
| 19 |
+
|
| 20 |
+
tokenizer = AutoTokenizer.from_pretrained(model)
|
| 21 |
+
model = AutoModelForTokenClassification.from_pretrained(model)
|
| 22 |
+
|
| 23 |
+
ner_pipe = pipeline(
|
| 24 |
+
"token-classification",
|
| 25 |
+
model=model,
|
| 26 |
+
tokenizer=tokenizer,
|
| 27 |
+
aggregation_strategy="simple", # merge sub-tokens into full words/spans
|
| 28 |
+
)
|
| 29 |
+
|
| 30 |
+
text = """Anamnèse
|
| 31 |
+
Patient âgé de 18 ans, traité pour un rétinoblastome bilatéral à 14 mois avec énucléation de l'œil gauche et chimiothérapie de l'œil droit. Après rechute locale, énucléation de l'œil droit à 32 mois. Etude génétique : mutation p.Arg455X dans l'exon 14 du gène Rb1. Elle présente une masse temporale droite évoluant depuis 3 mois.
|
| 32 |
+
|
| 33 |
+
Examen physique
|
| 34 |
+
État de performance (ECOG) de 1. Masse temporale droite de 4 cm, induration parotidienne et adénopathie latérocervicale droite de 2 cm.
|
| 35 |
+
|
| 36 |
+
Examens complémentaires
|
| 37 |
+
Une tomodensitométrie du corps entier a été réalisée : masse temporale droite de 4,6 cm. Masse parotidienne droite de 3,5 cm. Adénopathies latérocervicales droites, jusqu'à 1,9 cm.
|
| 38 |
+
Une ponction-aspiration à l'aiguille fine a été effectuée, avec un rapport de néoplasme malin à cellules rondes bleues, compatible avec une récidive de rétinoblastome.
|
| 39 |
+
Adressée au service d'oncologie médicale, une biopsie a été demandée, qui a révélé un néoplasme malin à cellules rondes bleues, mais compatible avec un rhabdomyosarcome embryonnaire, d'après le profil immunohistochimique (MyoD1+).
|
| 40 |
+
|
| 41 |
+
Diagnostic
|
| 42 |
+
Rhabdomyosarcome embryonnaire dans la zone irradiée ; stade III.
|
| 43 |
+
|
| 44 |
+
Traitement
|
| 45 |
+
Évalué conjointement avec la chirurgie maxillo-faciale et la radiothérapie, une chimiothérapie a été décidée (schéma VAIA avec une alternance de doxorubicine et de dactomycine) ; pour une chirurgie ultérieure à effort maximal.
|
| 46 |
+
Il a progressé après 3 cycles et une deuxième ligne a été lancée avec du carboplatine et de l'étoposide, avec laquelle il a eu une réponse radiologique complète après 3 cycles, de sorte que la chirurgie a été rejetée et la radiothérapie a été administrée en même temps que les 3 derniers cycles (dose de 67,94 Gy). Elle s'est terminée en août 2011.
|
| 47 |
+
|
| 48 |
+
Évolution
|
| 49 |
+
En janvier 2012, un scanner a montré une lésion hépatique unique de 7,6 cm, avec un diagnostic différentiel entre un kyste hydatique et une métastase ; elle ne se prêtait pas à un diagnostic percutané en raison de sa localisation et de sa nature kystique. Une hépatectomie droite a été pratiquée, avec un rapport de métastase de rhabdomyosarcome.
|
| 50 |
+
La tomodensitométrie post-chirurgicale a montré une progression métastatique multiple. Elle a présenté le PS 2, avec un syndrome général, des douleurs et de multiples nodules cervicaux bilatéraux.
|
| 51 |
+
Elle a reçu un traitement palliatif par docétaxel-gemcitabine, avec une réponse clinique (rémission de la douleur, de l'asthénie et des lésions cervicales) et une réponse radiologique au scanner.
|
| 52 |
+
Après 6 cycles, elle s'est présentée aux urgences pour un malaise général, un syndrome émétique et une insuffisance respiratoire. Un traitement symptomatique a été mis en place, mais elle est décédée quelques heures plus tard.
|
| 53 |
+
""" # noqa: E501
|
| 54 |
+
|
| 55 |
+
entities = ner_pipe(text)
|
| 56 |
+
for ent in entities:
|
| 57 |
+
print(ent)
|
| 58 |
+
```
|
| 59 |
+
|
| 60 |
+
---
|
| 61 |
+
|
| 62 |
+
## Usage with medkit
|
| 63 |
+
|
| 64 |
+
```python
|
| 65 |
+
import torch
|
| 66 |
+
from medkit.text.ner.hf_entity_matcher import HFEntityMatcher
|
| 67 |
+
from medkit.core.text import TextDocument
|
| 68 |
+
from medkit.text.segmentation import SentenceTokenizer
|
| 69 |
+
|
| 70 |
+
DEVICE = 0 if torch.cuda.is_available() else -1
|
| 71 |
+
|
| 72 |
+
morpho_matcher = HFEntityMatcher(
|
| 73 |
+
model="Mehd212/camembert-bio-morpho",
|
| 74 |
+
aggregation_strategy="simple",
|
| 75 |
+
device=DEVICE,
|
| 76 |
+
)
|
| 77 |
+
|
| 78 |
+
text = """Anamnèse
|
| 79 |
+
Patient âgé de 18 ans, traité pour un rétinoblastome bilatéral...
|
| 80 |
+
"""
|
| 81 |
+
|
| 82 |
+
doc = TextDocument(text=text)
|
| 83 |
+
|
| 84 |
+
sent_tok = SentenceTokenizer(
|
| 85 |
+
output_label="sentence",
|
| 86 |
+
split_on_newlines=True,
|
| 87 |
+
punct_chars=[".", "?", "!"],
|
| 88 |
+
keep_punct=True,
|
| 89 |
+
)
|
| 90 |
+
|
| 91 |
+
sentence_segs = sent_tok.run([doc.raw_segment])
|
| 92 |
+
|
| 93 |
+
entities = morpho_matcher.run(sentence_segs)
|
| 94 |
+
|
| 95 |
+
for ent in entities:
|
| 96 |
+
print(ent.label, repr(ent.text), [(s.start, s.end) for s in ent.spans])
|
| 97 |
+
```
|
| 98 |
+
|
| 99 |
+
---
|
| 100 |
+
|
| 101 |
+
## Results on FRACCO (test set)
|
| 102 |
+
|
| 103 |
+
Evaluation on the FRACCO **test** split (entity-level, seqeval):
|
| 104 |
+
|
| 105 |
+
```text
|
| 106 |
+
precision recall f1-score support
|
| 107 |
+
|
| 108 |
+
MORPHO 0.8882 0.9072 0.8976 3837
|
| 109 |
+
|
| 110 |
+
micro avg 0.8882 0.9072 0.8976 3837
|
| 111 |
+
macro avg 0.8882 0.9072 0.8976 3837
|
| 112 |
+
weighted avg 0.8882 0.9072 0.8976 3837
|
| 113 |
+
```
|