|
|
--- |
|
|
license: apache-2.0 |
|
|
tags: |
|
|
- generated_from_trainer |
|
|
metrics: |
|
|
- precision |
|
|
- recall |
|
|
- f1 |
|
|
- accuracy |
|
|
model-index: |
|
|
- name: NeRUBioS_RoBERTa_Training_Testing |
|
|
results: [] |
|
|
|
|
|
widget: |
|
|
|
|
|
- text: "Desde entoces refiere que ha tomado varias tandas de antibioticos sin terminar de ceder la clínica (aún presenta cierta disuria y polaquiuria)." |
|
|
- text: "Dato reseñable: en los primeros días a nuestro cuidado presentó de nuevo anemización (se adjuntan controles analíticos) que ha ido recuperando sin que haya precisado hemotransfusión (al alta de Had presenta Hgb de 10.2g/dl)." |
|
|
- text: "Paciente con diagnóstico de ELA en abril de 2015 que presenta desde hace más de dos meses disfagia progresiva, para líquidos preferentemente, con dos neumonías por aspiración, por lo que se programa ingreso para colocación de sonda de gastrostomía, realizándose el día 31 de diciembre, sin complicaciones y tolerando posteriormente la dieta por gastrostomía." |
|
|
- text: "El ecocardiograma doppler color no muestra patologia que justifique los síntomas y la paciente evoluciona completamente asintomática y estable." |
|
|
- text: "Ultima deposición, esa mañana, de escasa cuantia, sin emisión de gases." |
|
|
- text: "Al alta presentaba hemipresia derecha con actividad en hombro hasta 90º de AF, mano espástica en flexión sin actividad." |
|
|
- text: "Bases pulmonares, cavidades pleurales, hígado, bazo, páncreas y suprarrenales sin hallazgos." |
|
|
- text: "Paciente con los antecedentes reseñados que ingresa por cuadro de escasas horas de evolución consistente en exacerbacion de su temblor habitual, que parece haberse hecho generalizado y cuya descripcion es incapaz de precisar." |
|
|
- text: "Resumen de Historia clinica: Paciente ingresado por incremento de la disnea a los esfuerzos, en la urgencia se detecta ACxFA antes no conocida." |
|
|
- text: "Mujer con 5 meses de gestación que ingresa por cuadro grave debido a bloqueo AV completo, que parece haber ocurrido en la madrugada y cuya sintomatología es incapaz de precisar." |
|
|
- text: "La función renal ha sido correcta en todo momento con progresiva normalización de los indicadores infecciosos (HRF, PCR, VSG). Tras completar antibioterapia endovenosa con vancomicina el 25 de junio, inició el 26 de junio linezolid 600mg cada 12horas, siguiendo las recomendaciones de la unidad de Enfermedades Infecciosas, siendo bien tolerado y sin toxicidad, realizándose seguimiento analítico." |
|
|
- text: "Presentamos un caso de convulsiones asociadas al tratamiento con L-asparaginasa, sin evidencia de eventos cerebrovasculares hemorrágicos o trombóticos." |
|
|
- text: "Paladar asimétrico con desviación de uvula a la derecha, hiperemico, no abombado." |
|
|
- text: "fecha de nacimiento 11 07 2016 niega ocntacto reicnete covid masculino de 6 anos de edad quien e straido a revision por su padre por presntar cuadro de presentacion al estar en la tarde como alas 13:00hrs en un acto religioso elmenor presenta un eventipo de mareo, un vomito gastroalimentario y afectacion visual, refiere haber ingerido alimentos 3 a 4 mnhoras previos, poero muy baja ingesta de liquidos." |
|
|
- text: "se presneto recuperacion al 100%, el menor se encuentra neuroiologicamnete integro sin focalizaciones glasgow de 15/15 sin focalizaciones, cerebelo integro, retso normal, preocrdio normodinamico con ruidos ritmicos d eintensidad y frec7uencia dnetro d elo normal, no soplos o agregados." |
|
|
- text: "paciente quien presnta cuadro climnico posible asociado a baj ingest ad eliquidos y someterse a evento religioso por tiempo proerfongafdo, en este momento sin afectacion cñlicncia" |
|
|
- text: "El hígado muestra tamaño, morfología y valores de atenuación normales sin que se evidencien lesiones focales." |
|
|
- text: "Test de las fotos: Recuerdo libre 3; Recuerdo facilitado 3; Sin recuerdo 0." |
|
|
--- |
|
|
|
|
|
<!-- This model card has been generated automatically according to the information the Trainer had access to. You |
|
|
should probably proofread and complete it, then remove this comment. --> |
|
|
|
|
|
# NeRUBioS_RoBERTa_Training_Testing |
|
|
|
|
|
This model is a fine-tuned version of [PlanTL-GOB-ES/roberta-base-biomedical-clinical-es](https://huggingface.co/PlanTL-GOB-ES/roberta-base-biomedical-clinical-es) on an adaptation of the Nubes dataset called NeRUBioS. Training and Testing Datasets have 13832 and 2765 samples, respectively. This is a result of the PhD dissertation of Antonio Tamayo. |
|
|
It achieves the following results on the evaluation set: |
|
|
- Loss: 0.3540 |
|
|
- Negref Precision: 0.5522 |
|
|
- Negref Recall: 0.6138 |
|
|
- Negref F1: 0.5814 |
|
|
- Neg Precision: 0.9530 |
|
|
- Neg Recall: 0.9684 |
|
|
- Neg F1: 0.9606 |
|
|
- Nsco Precision: 0.8812 |
|
|
- Nsco Recall: 0.9092 |
|
|
- Nsco F1: 0.8950 |
|
|
- Unc Precision: 0.8208 |
|
|
- Unc Recall: 0.8923 |
|
|
- Unc F1: 0.8550 |
|
|
- Usco Precision: 0.6786 |
|
|
- Usco Recall: 0.7815 |
|
|
- Usco F1: 0.7264 |
|
|
- Precision: 0.8223 |
|
|
- Recall: 0.8680 |
|
|
- F1: 0.8446 |
|
|
- Accuracy: 0.9497 |
|
|
|
|
|
## Model description |
|
|
|
|
|
More information needed |
|
|
|
|
|
## Intended uses & limitations |
|
|
|
|
|
More information needed |
|
|
|
|
|
## Training and evaluation data |
|
|
|
|
|
More information needed |
|
|
|
|
|
## Training procedure |
|
|
|
|
|
### Training hyperparameters |
|
|
|
|
|
The following hyperparameters were used during training: |
|
|
- learning_rate: 2e-05 |
|
|
- train_batch_size: 8 |
|
|
- eval_batch_size: 8 |
|
|
- seed: 42 |
|
|
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08 |
|
|
- lr_scheduler_type: linear |
|
|
- num_epochs: 12 |
|
|
|
|
|
### Training results |
|
|
|
|
|
| Training Loss | Epoch | Step | Validation Loss | Negref Precision | Negref Recall | Negref F1 | Neg Precision | Neg Recall | Neg F1 | Nsco Precision | Nsco Recall | Nsco F1 | Unc Precision | Unc Recall | Unc F1 | Usco Precision | Usco Recall | Usco F1 | Precision | Recall | F1 | Accuracy | |
|
|
|:-------------:|:-----:|:-----:|:---------------:|:----------------:|:-------------:|:---------:|:-------------:|:----------:|:------:|:--------------:|:-----------:|:-------:|:-------------:|:----------:|:------:|:--------------:|:-----------:|:-------:|:---------:|:------:|:------:|:--------:| |
|
|
| 0.1945 | 1.0 | 1729 | 0.2026 | 0.4356 | 0.4919 | 0.4621 | 0.9246 | 0.9558 | 0.9399 | 0.8264 | 0.9039 | 0.8634 | 0.7192 | 0.8077 | 0.7609 | 0.6125 | 0.7069 | 0.6563 | 0.7610 | 0.8276 | 0.7929 | 0.9383 | |
|
|
| 0.1173 | 2.0 | 3458 | 0.2070 | 0.4961 | 0.5595 | 0.5259 | 0.9314 | 0.9635 | 0.9472 | 0.8552 | 0.9070 | 0.8803 | 0.8221 | 0.8769 | 0.8486 | 0.6472 | 0.7404 | 0.6906 | 0.7953 | 0.8516 | 0.8225 | 0.9423 | |
|
|
| 0.0938 | 3.0 | 5187 | 0.2145 | 0.5006 | 0.6182 | 0.5532 | 0.9348 | 0.9670 | 0.9506 | 0.8679 | 0.9047 | 0.8859 | 0.7991 | 0.8667 | 0.8315 | 0.6316 | 0.7404 | 0.6817 | 0.7919 | 0.8607 | 0.8249 | 0.9435 | |
|
|
| 0.0543 | 4.0 | 6916 | 0.2151 | 0.5267 | 0.6226 | 0.5707 | 0.9425 | 0.9677 | 0.9550 | 0.8588 | 0.9017 | 0.8797 | 0.8076 | 0.8718 | 0.8385 | 0.6733 | 0.7789 | 0.7223 | 0.8036 | 0.8647 | 0.8330 | 0.9460 | |
|
|
| 0.0403 | 5.0 | 8645 | 0.2669 | 0.5627 | 0.5536 | 0.5581 | 0.9470 | 0.9670 | 0.9569 | 0.8697 | 0.9085 | 0.8886 | 0.8153 | 0.8487 | 0.8317 | 0.7009 | 0.7712 | 0.7344 | 0.8265 | 0.8526 | 0.8393 | 0.9472 | |
|
|
| 0.0325 | 6.0 | 10374 | 0.2608 | 0.5207 | 0.6094 | 0.5616 | 0.9503 | 0.9677 | 0.9589 | 0.8751 | 0.9062 | 0.8904 | 0.7977 | 0.8795 | 0.8366 | 0.6771 | 0.7815 | 0.7255 | 0.8093 | 0.8650 | 0.8362 | 0.9476 | |
|
|
| 0.0205 | 7.0 | 12103 | 0.3006 | 0.5646 | 0.6285 | 0.5949 | 0.9419 | 0.9684 | 0.9550 | 0.8671 | 0.9130 | 0.8895 | 0.7958 | 0.8795 | 0.8356 | 0.6594 | 0.7815 | 0.7153 | 0.8125 | 0.8704 | 0.8404 | 0.9484 | |
|
|
| 0.0146 | 8.0 | 13832 | 0.3124 | 0.5653 | 0.5844 | 0.5747 | 0.9569 | 0.9677 | 0.9623 | 0.8896 | 0.9085 | 0.8990 | 0.8085 | 0.8769 | 0.8413 | 0.6966 | 0.7969 | 0.7434 | 0.8320 | 0.8628 | 0.8471 | 0.9496 | |
|
|
| 0.0095 | 9.0 | 15561 | 0.3160 | 0.5459 | 0.6285 | 0.5843 | 0.9544 | 0.9705 | 0.9624 | 0.8770 | 0.9115 | 0.8939 | 0.8255 | 0.8974 | 0.8600 | 0.6868 | 0.7892 | 0.7344 | 0.8202 | 0.8730 | 0.8458 | 0.9511 | |
|
|
| 0.0069 | 10.0 | 17290 | 0.3415 | 0.5461 | 0.6094 | 0.5760 | 0.9536 | 0.9677 | 0.9606 | 0.8810 | 0.9070 | 0.8938 | 0.8182 | 0.9 | 0.8571 | 0.6785 | 0.7866 | 0.7286 | 0.8207 | 0.8676 | 0.8435 | 0.9505 | |
|
|
| 0.0047 | 11.0 | 19019 | 0.3483 | 0.5481 | 0.6197 | 0.5817 | 0.9517 | 0.9684 | 0.9600 | 0.8776 | 0.9107 | 0.8938 | 0.8160 | 0.8872 | 0.8501 | 0.6909 | 0.7815 | 0.7334 | 0.8204 | 0.8690 | 0.8440 | 0.9490 | |
|
|
| 0.0018 | 12.0 | 20748 | 0.3540 | 0.5522 | 0.6138 | 0.5814 | 0.9530 | 0.9684 | 0.9606 | 0.8812 | 0.9092 | 0.8950 | 0.8208 | 0.8923 | 0.8550 | 0.6786 | 0.7815 | 0.7264 | 0.8223 | 0.8680 | 0.8446 | 0.9497 | |
|
|
|
|
|
|
|
|
### Framework versions |
|
|
|
|
|
- Transformers 4.28.1 |
|
|
- Pytorch 2.0.0+cu118 |
|
|
- Datasets 2.11.0 |
|
|
- Tokenizers 0.13.3 |
|
|
|
