NICFRU
/

nc_ner_bert_model_german_hyperparameter

Safetensors

bert

Model card Files Files and versions

xet

Community

NICFRU commited on Jul 4, 2025

Commit

5795863

verified ·

1 Parent(s): ae0260f

Upload README.md with huggingface_hub

Browse files

Files changed (1) hide show

README.md +332 -199

README.md CHANGED Viewed

@@ -1,199 +1,332 @@
----
-library_name: transformers
-tags: []
----
-# Model Card for Model ID
-<!-- Provide a quick summary of what the model is/does. -->
-## Model Details
-### Model Description
-<!-- Provide a longer summary of what this model is. -->
-This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.
-- **Developed by:** [More Information Needed]
-- **Funded by [optional]:** [More Information Needed]
-- **Shared by [optional]:** [More Information Needed]
-- **Model type:** [More Information Needed]
-- **Language(s) (NLP):** [More Information Needed]
-- **License:** [More Information Needed]
-- **Finetuned from model [optional]:** [More Information Needed]
-### Model Sources [optional]
-<!-- Provide the basic links for the model. -->
-- **Repository:** [More Information Needed]
-- **Paper [optional]:** [More Information Needed]
-- **Demo [optional]:** [More Information Needed]
-## Uses
-<!-- Address questions around how the model is intended to be used, including the foreseeable users of the model and those affected by the model. -->
-### Direct Use
-<!-- This section is for the model use without fine-tuning or plugging into a larger ecosystem/app. -->
-[More Information Needed]
-### Downstream Use [optional]
-<!-- This section is for the model use when fine-tuned for a task, or when plugged into a larger ecosystem/app -->
-[More Information Needed]
-### Out-of-Scope Use
-<!-- This section addresses misuse, malicious use, and uses that the model will not work well for. -->
-[More Information Needed]
-## Bias, Risks, and Limitations
-<!-- This section is meant to convey both technical and sociotechnical limitations. -->
-[More Information Needed]
-### Recommendations
-<!-- This section is meant to convey recommendations with respect to the bias, risk, and technical limitations. -->
-Users (both direct and downstream) should be made aware of the risks, biases and limitations of the model. More information needed for further recommendations.
-## How to Get Started with the Model
-Use the code below to get started with the model.
-[More Information Needed]
-## Training Details
-### Training Data
-<!-- This should link to a Dataset Card, perhaps with a short stub of information on what the training data is all about as well as documentation related to data pre-processing or additional filtering. -->
-[More Information Needed]
-### Training Procedure
-<!-- This relates heavily to the Technical Specifications. Content here should link to that section when it is relevant to the training procedure. -->
-#### Preprocessing [optional]
-[More Information Needed]
-#### Training Hyperparameters
-- **Training regime:** [More Information Needed] <!--fp32, fp16 mixed precision, bf16 mixed precision, bf16 non-mixed precision, fp16 non-mixed precision, fp8 mixed precision -->
-#### Speeds, Sizes, Times [optional]
-<!-- This section provides information about throughput, start/end time, checkpoint size if relevant, etc. -->
-[More Information Needed]
-## Evaluation
-<!-- This section describes the evaluation protocols and provides the results. -->
-### Testing Data, Factors & Metrics
-#### Testing Data
-<!-- This should link to a Dataset Card if possible. -->
-[More Information Needed]
-#### Factors
-<!-- These are the things the evaluation is disaggregating by, e.g., subpopulations or domains. -->
-[More Information Needed]
-#### Metrics
-<!-- These are the evaluation metrics being used, ideally with a description of why. -->
-[More Information Needed]
-### Results
-[More Information Needed]
-#### Summary
-## Model Examination [optional]
-<!-- Relevant interpretability work for the model goes here -->
-[More Information Needed]
-## Environmental Impact
-<!-- Total emissions (in grams of CO2eq) and additional considerations, such as electricity usage, go here. Edit the suggested text below accordingly -->
-Carbon emissions can be estimated using the [Machine Learning Impact calculator](https://mlco2.github.io/impact#compute) presented in [Lacoste et al. (2019)](https://arxiv.org/abs/1910.09700).
-- **Hardware Type:** [More Information Needed]
-- **Hours used:** [More Information Needed]
-- **Cloud Provider:** [More Information Needed]
-- **Compute Region:** [More Information Needed]
-- **Carbon Emitted:** [More Information Needed]
-## Technical Specifications [optional]
-### Model Architecture and Objective
-[More Information Needed]
-### Compute Infrastructure
-[More Information Needed]
-#### Hardware
-[More Information Needed]
-#### Software
-[More Information Needed]
-## Citation [optional]
-<!-- If there is a paper or blog post introducing the model, the APA and Bibtex information for that should go in this section. -->
-**BibTeX:**
-[More Information Needed]
-**APA:**
-[More Information Needed]
-## Glossary [optional]
-<!-- If relevant, include terms and calculations in this section that can help readers understand the model or model card. -->
-[More Information Needed]
-## More Information [optional]
-[More Information Needed]
-## Model Card Authors [optional]
-[More Information Needed]
-## Model Card Contact
-[More Information Needed]

+# nc_ner_bert_model
+This model is a fine-tuned version of bert-base-german-cased on the german-ler dataset.
+It achieves the following results on the evaluation set:
+Loss: 0.010967588983476162
+F1: 0.974421209858103
+Precision: 0.9677359540144632
+Recall: 0.9811994735852604
+## Model description
+More information needed
+## Intended uses & limitations
+More information needed
+## Training and evaluation data
+More information needed
+## Training procedure
+### Training hyperparameters
+The following hyperparameters were used during training:
+- learning_rate: 2.2349781891934193e-05
+- train_batch_size: (32,)
+- eval_batch_size: (32,)
+- num_epochs: 7
+### Training results
+| loss | epoch | step | eval_loss | eval_f1 | eval_precision | eval_recall |
+| --- | --- | --- | --- | --- | --- | --- |
+| 0.7055 | 0.029958058717795086 | 50 | nan | nan | nan | nan |
+| 0.184 | 0.05991611743559017 | 100 | nan | nan | nan | nan |
+| 0.1256 | 0.08987417615338526 | 150 | nan | nan | nan | nan |
+| 0.0853 | 0.11983223487118035 | 200 | nan | nan | nan | nan |
+| nan | 0.11983223487118035 | 200 | 0.07789552211761475 | 0.7150180368331118 | 0.6846027994910017 | 0.7482614742698191 |
+| 0.0779 | 0.14979029358897544 | 250 | nan | nan | nan | nan |
+| 0.0691 | 0.17974835230677053 | 300 | nan | nan | nan | nan |
+| 0.0565 | 0.2097064110245656 | 350 | nan | nan | nan | nan |
+| 0.0461 | 0.2396644697423607 | 400 | nan | nan | nan | nan |
+| nan | 0.2396644697423607 | 400 | 0.051145099103450775 | 0.8050109974179975 | 0.775995575221239 | 0.8362805483806874 |
+| 0.0455 | 0.2696225284601558 | 450 | nan | nan | nan | nan |
+| 0.0477 | 0.2995805871779509 | 500 | nan | nan | nan | nan |
+| 0.051 | 0.32953864589574594 | 550 | nan | nan | nan | nan |
+| 0.0335 | 0.35949670461354105 | 600 | nan | nan | nan | nan |
+| nan | 0.35949670461354105 | 600 | 0.03861129283905029 | 0.8471599045346063 | 0.8153252480705623 | 0.8815815616928273 |
+| 0.0475 | 0.3894547633313361 | 650 | nan | nan | nan | nan |
+| 0.034 | 0.4194128220491312 | 700 | nan | nan | nan | nan |
+| 0.0334 | 0.44937088076692633 | 750 | nan | nan | nan | nan |
+| 0.035 | 0.4793289394847214 | 800 | nan | nan | nan | nan |
+| nan | 0.4793289394847214 | 800 | 0.03513886779546738 | 0.8575253394530503 | 0.8265437788018433 | 0.8909199284720842 |
+| 0.0342 | 0.5092869982025164 | 850 | nan | nan | nan | nan |
+| 0.0382 | 0.5392450569203115 | 900 | nan | nan | nan | nan |
+| 0.0387 | 0.5692031156381067 | 950 | nan | nan | nan | nan |
+| 0.0319 | 0.5991611743559018 | 1000 | nan | nan | nan | nan |
+| nan | 0.5991611743559018 | 1000 | 0.032067589461803436 | 0.8721804511278196 | 0.8470323909380266 | 0.8988674746671965 |
+| 0.0358 | 0.6291192330736968 | 1050 | nan | nan | nan | nan |
+| 0.0226 | 0.6590772917914919 | 1100 | nan | nan | nan | nan |
+| 0.0261 | 0.689035350509287 | 1150 | nan | nan | nan | nan |
+| 0.0301 | 0.7189934092270821 | 1200 | nan | nan | nan | nan |
+| nan | 0.7189934092270821 | 1200 | 0.0296848863363266 | 0.891498447204969 | 0.871371656232214 | 0.9125769918537652 |
+| 0.0379 | 0.7489514679448772 | 1250 | nan | nan | nan | nan |
+| 0.0258 | 0.7789095266626722 | 1300 | nan | nan | nan | nan |
+| 0.0445 | 0.8088675853804673 | 1350 | nan | nan | nan | nan |
+| 0.0284 | 0.8388256440982624 | 1400 | nan | nan | nan | nan |
+| nan | 0.8388256440982624 | 1400 | 0.026862194761633873 | 0.8970673917265488 | 0.8773029439696106 | 0.9177428968805881 |
+| 0.0369 | 0.8687837028160575 | 1450 | nan | nan | nan | nan |
+| 0.0307 | 0.8987417615338527 | 1500 | nan | nan | nan | nan |
+| 0.0279 | 0.9286998202516477 | 1550 | nan | nan | nan | nan |
+| 0.0272 | 0.9586578789694428 | 1600 | nan | nan | nan | nan |
+| nan | 0.9586578789694428 | 1600 | 0.02926013618707657 | 0.8975967570697809 | 0.8727477477477478 | 0.9239022451818001 |
+| 0.026 | 0.9886159376872379 | 1650 | nan | nan | nan | nan |
+| 0.0191 | 1.0185739964050329 | 1700 | nan | nan | nan | nan |
+| 0.0133 | 1.048532055122828 | 1750 | nan | nan | nan | nan |
+| 0.0143 | 1.078490113840623 | 1800 | nan | nan | nan | nan |
+| nan | 1.078490113840623 | 1800 | 0.029387488961219788 | 0.9078743211792087 | 0.8867209698806592 | 0.9300615934830121 |
+| 0.0118 | 1.1084481725584183 | 1850 | nan | nan | nan | nan |
+| 0.0136 | 1.1384062312762133 | 1900 | nan | nan | nan | nan |
+| 0.0142 | 1.1683642899940083 | 1950 | nan | nan | nan | nan |
+| 0.0152 | 1.1983223487118035 | 2000 | nan | nan | nan | nan |
+| nan | 1.1983223487118035 | 2000 | 0.025618569925427437 | 0.9106898573382841 | 0.8959815420111517 | 0.9258891317305782 |
+| 0.0113 | 1.2282804074295985 | 2050 | nan | nan | nan | nan |
+| 0.0104 | 1.2582384661473935 | 2100 | nan | nan | nan | nan |
+| 0.0143 | 1.2881965248651888 | 2150 | nan | nan | nan | nan |
+| 0.0163 | 1.3181545835829838 | 2200 | nan | nan | nan | nan |
+| nan | 1.3181545835829838 | 2200 | 0.026512088254094124 | 0.9110120201628539 | 0.8894567480598145 | 0.9336379892708127 |
+| 0.0175 | 1.348112642300779 | 2250 | nan | nan | nan | nan |
+| 0.0189 | 1.378070701018574 | 2300 | nan | nan | nan | nan |
+| 0.0164 | 1.4080287597363692 | 2350 | nan | nan | nan | nan |
+| 0.0122 | 1.4379868184541642 | 2400 | nan | nan | nan | nan |
+| nan | 1.4379868184541642 | 2400 | 0.026838310062885284 | 0.918019956955586 | 0.9042204663711698 | 0.932247168686668 |
+| 0.0136 | 1.4679448771719592 | 2450 | nan | nan | nan | nan |
+| 0.0178 | 1.4979029358897544 | 2500 | nan | nan | nan | nan |
+| 0.016 | 1.5278609946075494 | 2550 | nan | nan | nan | nan |
+| 0.0109 | 1.5578190533253444 | 2600 | nan | nan | nan | nan |
+| nan | 1.5578190533253444 | 2600 | 0.024598829448223114 | 0.9250367466927977 | 0.9126063418406806 | 0.9378104510232466 |
+| 0.0162 | 1.5877771120431396 | 2650 | nan | nan | nan | nan |
+| 0.0134 | 1.6177351707609346 | 2700 | nan | nan | nan | nan |
+| 0.0136 | 1.6476932294787296 | 2750 | nan | nan | nan | nan |
+| 0.0146 | 1.6776512881965249 | 2800 | nan | nan | nan | nan |
+| nan | 1.6776512881965249 | 2800 | 0.02354247495532036 | 0.920870328812567 | 0.9047162576687117 | 0.9376117623683687 |
+| 0.0114 | 1.70760934691432 | 2850 | nan | nan | nan | nan |
+| 0.0134 | 1.737567405632115 | 2900 | nan | nan | nan | nan |
+| 0.0166 | 1.76752546434991 | 2950 | nan | nan | nan | nan |
+| 0.0129 | 1.7974835230677053 | 3000 | nan | nan | nan | nan |
+| nan | 1.7974835230677053 | 3000 | 0.024731051176786423 | 0.9212759730757973 | 0.9049444231506324 | 0.9382078283330022 |
+| 0.0108 | 1.8274415817855003 | 3050 | nan | nan | nan | nan |
+| 0.0163 | 1.8573996405032953 | 3100 | nan | nan | nan | nan |
+| 0.0122 | 1.8873576992210905 | 3150 | nan | nan | nan | nan |
+| 0.0131 | 1.9173157579388855 | 3200 | nan | nan | nan | nan |
+| nan | 1.9173157579388855 | 3200 | 0.02367970161139965 | 0.9212144879429854 | 0.9055662188099808 | 0.9374130737134909 |
+| 0.0194 | 1.9472738166566805 | 3250 | nan | nan | nan | nan |
+| 0.0161 | 1.9772318753744758 | 3300 | nan | nan | nan | nan |
+| 0.0105 | 2.007189934092271 | 3350 | nan | nan | nan | nan |
+| 0.0068 | 2.0371479928100658 | 3400 | nan | nan | nan | nan |
+| nan | 2.0371479928100658 | 3400 | 0.02313600666821003 | 0.9331639632597225 | 0.9180926744856759 | 0.9487383270415259 |
+| 0.0082 | 2.067106051527861 | 3450 | nan | nan | nan | nan |
+| 0.0067 | 2.097064110245656 | 3500 | nan | nan | nan | nan |
+| 0.0061 | 2.127022168963451 | 3550 | nan | nan | nan | nan |
+| 0.0062 | 2.156980227681246 | 3600 | nan | nan | nan | nan |
+| nan | 2.156980227681246 | 3600 | 0.02576131373643875 | 0.9291015625 | 0.9135778759362396 | 0.9451619312537254 |
+| 0.0057 | 2.1869382863990414 | 3650 | nan | nan | nan | nan |
+| 0.009 | 2.2168963451168366 | 3700 | nan | nan | nan | nan |
+| 0.008 | 2.2468544038346314 | 3750 | nan | nan | nan | nan |
+| 0.0083 | 2.2768124625524266 | 3800 | nan | nan | nan | nan |
+| nan | 2.2768124625524266 | 3800 | 0.02606959268450737 | 0.9288645690834474 | 0.9138627187079408 | 0.9443671766342142 |
+| 0.0075 | 2.306770521270222 | 3850 | nan | nan | nan | nan |
+| 0.0074 | 2.3367285799880166 | 3900 | nan | nan | nan | nan |
+| 0.0075 | 2.366686638705812 | 3950 | nan | nan | nan | nan |
+| 0.005 | 2.396644697423607 | 4000 | nan | nan | nan | nan |
+| nan | 2.396644697423607 | 4000 | 0.023832641541957855 | 0.9314693518427998 | 0.9168591224018475 | 0.94655275183787 |
+| 0.0075 | 2.426602756141402 | 4050 | nan | nan | nan | nan |
+| 0.0064 | 2.456560814859197 | 4100 | nan | nan | nan | nan |
+| 0.0077 | 2.4865188735769923 | 4150 | nan | nan | nan | nan |
+| 0.0056 | 2.516476932294787 | 4200 | nan | nan | nan | nan |
+| nan | 2.516476932294787 | 4200 | 0.025928083807229996 | 0.9360149857044268 | 0.9289628180039139 | 0.9431750447049474 |
+| 0.0085 | 2.5464349910125823 | 4250 | nan | nan | nan | nan |
+| 0.0072 | 2.5763930497303775 | 4300 | nan | nan | nan | nan |
+| 0.008 | 2.6063511084481723 | 4350 | nan | nan | nan | nan |
+| 0.0077 | 2.6363091671659675 | 4400 | nan | nan | nan | nan |
+| nan | 2.6363091671659675 | 4400 | 0.024844586849212646 | 0.9371809972516686 | 0.9260911736178468 | 0.9485396383866481 |
+| 0.0088 | 2.6662672258837627 | 4450 | nan | nan | nan | nan |
+| 0.0111 | 2.696225284601558 | 4500 | nan | nan | nan | nan |
+| 0.0057 | 2.7261833433193527 | 4550 | nan | nan | nan | nan |
+| 0.0048 | 2.756141402037148 | 4600 | nan | nan | nan | nan |
+| nan | 2.756141402037148 | 4600 | 0.025625057518482208 | 0.9377203290246768 | 0.9245027997682951 | 0.9513212795549374 |
+| 0.004 | 2.786099460754943 | 4650 | nan | nan | nan | nan |
+| 0.0084 | 2.8160575194727384 | 4700 | nan | nan | nan | nan |
+| 0.0079 | 2.846015578190533 | 4750 | nan | nan | nan | nan |
+| 0.0069 | 2.8759736369083284 | 4800 | nan | nan | nan | nan |
+| nan | 2.8759736369083284 | 4800 | 0.025294562801718712 | 0.935957696827262 | 0.9227650125506854 | 0.9495330816610371 |
+| 0.0082 | 2.9059316956261236 | 4850 | nan | nan | nan | nan |
+| 0.0069 | 2.9358897543439184 | 4900 | nan | nan | nan | nan |
+| 0.0065 | 2.9658478130617136 | 4950 | nan | nan | nan | nan |
+| 0.0048 | 2.995805871779509 | 5000 | nan | nan | nan | nan |
+| nan | 2.995805871779509 | 5000 | 0.02749244123697281 | 0.9285575238466031 | 0.9101316542644533 | 0.947744883767137 |
+| 0.0064 | 3.0257639304973036 | 5050 | nan | nan | nan | nan |
+| 0.0035 | 3.055721989215099 | 5100 | nan | nan | nan | nan |
+| 0.0033 | 3.085680047932894 | 5150 | nan | nan | nan | nan |
+| 0.0041 | 3.115638106650689 | 5200 | nan | nan | nan | nan |
+| nan | 3.115638106650689 | 5200 | 0.028376618400216103 | 0.9412806137503689 | 0.932021815348656 | 0.950725213590304 |
+| 0.0046 | 3.145596165368484 | 5250 | nan | nan | nan | nan |
+| 0.0036 | 3.1755542240862793 | 5300 | nan | nan | nan | nan |
+| 0.0027 | 3.205512282804074 | 5350 | nan | nan | nan | nan |
+| 0.0034 | 3.2354703415218693 | 5400 | nan | nan | nan | nan |
+| nan | 3.2354703415218693 | 5400 | 0.027493851259350777 | 0.9410726541817824 | 0.9289585753000387 | 0.9535068547585933 |
+| 0.0036 | 3.2654284002396645 | 5450 | nan | nan | nan | nan |
+| 0.0038 | 3.2953864589574597 | 5500 | nan | nan | nan | nan |
+| 0.0058 | 3.3253445176752545 | 5550 | nan | nan | nan | nan |
+| 0.0038 | 3.3553025763930497 | 5600 | nan | nan | nan | nan |
+| nan | 3.3553025763930497 | 5600 | 0.027687421068549156 | 0.9419620936855544 | 0.9312621359223301 | 0.9529107887939599 |
+| 0.0022 | 3.385260635110845 | 5650 | nan | nan | nan | nan |
+| 0.0026 | 3.4152186938286397 | 5700 | nan | nan | nan | nan |
+| 0.0038 | 3.445176752546435 | 5750 | nan | nan | nan | nan |
+| 0.0045 | 3.47513481126423 | 5800 | nan | nan | nan | nan |
+| nan | 3.47513481126423 | 5800 | 0.02791467308998108 | 0.937199960811208 | 0.9244298415152686 | 0.9503278362805484 |
+| 0.0057 | 3.5050928699820254 | 5850 | nan | nan | nan | nan |
+| 0.004 | 3.53505092869982 | 5900 | nan | nan | nan | nan |
+| 0.004 | 3.5650089874176154 | 5950 | nan | nan | nan | nan |
+| 0.0046 | 3.5949670461354106 | 6000 | nan | nan | nan | nan |
+| nan | 3.5949670461354106 | 6000 | 0.026380734518170357 | 0.9398157224073711 | 0.9274521183981428 | 0.9525134114842042 |
+| 0.0043 | 3.6249251048532054 | 6050 | nan | nan | nan | nan |
+| 0.0037 | 3.6548831635710006 | 6100 | nan | nan | nan | nan |
+| 0.0034 | 3.684841222288796 | 6150 | nan | nan | nan | nan |
+| 0.0021 | 3.7147992810065906 | 6200 | nan | nan | nan | nan |
+| nan | 3.7147992810065906 | 6200 | 0.027879519388079643 | 0.941049534085336 | 0.9292909724912825 | 0.9531094774488377 |
+| 0.0031 | 3.744757339724386 | 6250 | nan | nan | nan | nan |
+| 0.0032 | 3.774715398442181 | 6300 | nan | nan | nan | nan |
+| 0.0022 | 3.804673457159976 | 6350 | nan | nan | nan | nan |
+| 0.0052 | 3.834631515877771 | 6400 | nan | nan | nan | nan |
+| nan | 3.834631515877771 | 6400 | 0.02689335308969021 | 0.9417552144824872 | 0.9327616449035275 | 0.9509239022451818 |
+| 0.0039 | 3.8645895745955663 | 6450 | nan | nan | nan | nan |
+| 0.0034 | 3.894547633313361 | 6500 | nan | nan | nan | nan |
+| 0.0064 | 3.9245056920311563 | 6550 | nan | nan | nan | nan |
+| 0.0037 | 3.9544637507489515 | 6600 | nan | nan | nan | nan |
+| nan | 3.9544637507489515 | 6600 | 0.02714487351477146 | 0.9392308445053331 | 0.9253760123409178 | 0.9535068547585933 |
+| 0.0017 | 3.9844218094667463 | 6650 | nan | nan | nan | nan |
+| 0.0038 | 4.014379868184542 | 6700 | nan | nan | nan | nan |
+| 0.0032 | 4.044337926902337 | 6750 | nan | nan | nan | nan |
+| 0.0022 | 4.0742959856201315 | 6800 | nan | nan | nan | nan |
+| nan | 4.0742959856201315 | 6800 | 0.02567608840763569 | 0.9416609471516816 | 0.9295392953929539 | 0.9541029207232267 |
+| 0.0023 | 4.104254044337927 | 6850 | nan | nan | nan | nan |
+| 0.0026 | 4.134212103055722 | 6900 | nan | nan | nan | nan |
+| 0.0021 | 4.164170161773517 | 6950 | nan | nan | nan | nan |
+| 0.0013 | 4.194128220491312 | 7000 | nan | nan | nan | nan |
+| nan | 4.194128220491312 | 7000 | 0.02796429768204689 | 0.9413377729899127 | 0.9281575898030128 | 0.954897675342738 |
+| 0.0011 | 4.224086279209107 | 7050 | nan | nan | nan | nan |
+| 0.0021 | 4.254044337926902 | 7100 | nan | nan | nan | nan |
+| 0.0038 | 4.284002396644698 | 7150 | nan | nan | nan | nan |
+| 0.0027 | 4.313960455362492 | 7200 | nan | nan | nan | nan |
+| nan | 4.313960455362492 | 7200 | 0.026237724348902702 | 0.9455081001472755 | 0.9345885093167702 | 0.9566858732366382 |
+| 0.001 | 4.343918514080288 | 7250 | nan | nan | nan | nan |
+| 0.0023 | 4.373876572798083 | 7300 | nan | nan | nan | nan |
+| 0.0042 | 4.403834631515878 | 7350 | nan | nan | nan | nan |
+| 0.0019 | 4.433792690233673 | 7400 | nan | nan | nan | nan |
+| nan | 4.433792690233673 | 7400 | 0.026468493044376373 | 0.944537155197801 | 0.9334497477687234 | 0.955891118617127 |
+| 0.0022 | 4.463750748951468 | 7450 | nan | nan | nan | nan |
+| 0.0011 | 4.493708807669263 | 7500 | nan | nan | nan | nan |
+| 0.0017 | 4.5236668663870585 | 7550 | nan | nan | nan | nan |
+| 0.0017 | 4.553624925104853 | 7600 | nan | nan | nan | nan |
+| nan | 4.553624925104853 | 7600 | 0.026775727048516273 | 0.9455401825139829 | 0.9340829778984102 | 0.9572819392012716 |
+| 0.0015 | 4.583582983822648 | 7650 | nan | nan | nan | nan |
+| 0.0023 | 4.613541042540444 | 7700 | nan | nan | nan | nan |
+| 0.001 | 4.6434991012582385 | 7750 | nan | nan | nan | nan |
+| 0.0019 | 4.673457159976033 | 7800 | nan | nan | nan | nan |
+| nan | 4.673457159976033 | 7800 | 0.030023351311683655 | 0.9444171175602557 | 0.9353078721745908 | 0.9537055434134711 |
+| 0.0023 | 4.703415218693829 | 7850 | nan | nan | nan | nan |
+| 0.002 | 4.733373277411624 | 7900 | nan | nan | nan | nan |
+| 0.0012 | 4.7633313361294185 | 7950 | nan | nan | nan | nan |
+| 0.0018 | 4.793289394847214 | 8000 | nan | nan | nan | nan |
+| nan | 4.793289394847214 | 8000 | 0.028490031138062477 | 0.9444553483807655 | 0.9331006399069226 | 0.9560898072720048 |
+| 0.0031 | 4.823247453565009 | 8050 | nan | nan | nan | nan |
+| 0.0015 | 4.853205512282804 | 8100 | nan | nan | nan | nan |
+| 0.0019 | 4.883163571000599 | 8150 | nan | nan | nan | nan |
+| 0.0031 | 4.913121629718394 | 8200 | nan | nan | nan | nan |
+| nan | 4.913121629718394 | 8200 | 0.027024567127227783 | 0.9503350413874656 | 0.9427174975562073 | 0.9580766938207829 |
+| 0.0039 | 4.943079688436189 | 8250 | nan | nan | nan | nan |
+| 0.0013 | 4.973037747153985 | 8300 | nan | nan | nan | nan |
+| 0.0023 | 5.002995805871779 | 8350 | nan | nan | nan | nan |
+| 0.0014 | 5.032953864589574 | 8400 | nan | nan | nan | nan |
+| nan | 5.032953864589574 | 8400 | 0.0276151355355978 | 0.9500541818540045 | 0.9421649081672528 | 0.9580766938207829 |
+| 0.0007 | 5.06291192330737 | 8450 | nan | nan | nan | nan |
+| 0.0012 | 5.092869982025165 | 8500 | nan | nan | nan | nan |
+| 0.0014 | 5.12282804074296 | 8550 | nan | nan | nan | nan |
+| 0.001 | 5.152786099460755 | 8600 | nan | nan | nan | nan |
+| nan | 5.152786099460755 | 8600 | 0.026937348768115044 | 0.9461160275319568 | 0.9365388358964376 | 0.955891118617127 |
+| 0.0015 | 5.18274415817855 | 8650 | nan | nan | nan | nan |
+| 0.0009 | 5.2127022168963455 | 8700 | nan | nan | nan | nan |
+| 0.0005 | 5.24266027561414 | 8750 | nan | nan | nan | nan |
+| 0.0007 | 5.272618334331935 | 8800 | nan | nan | nan | nan |
+| nan | 5.272618334331935 | 8800 | 0.02858744189143181 | 0.9466129190836693 | 0.9369404437524329 | 0.9564871845817604 |
+| 0.0009 | 5.302576393049731 | 8850 | nan | nan | nan | nan |
+| 0.0025 | 5.3325344517675255 | 8900 | nan | nan | nan | nan |
+| 0.0009 | 5.36249251048532 | 8950 | nan | nan | nan | nan |
+| 0.0034 | 5.392450569203116 | 9000 | nan | nan | nan | nan |
+| nan | 5.392450569203116 | 9000 | 0.027234330773353577 | 0.9454116258483328 | 0.9361121932216595 | 0.954897675342738 |
+| 0.0022 | 5.422408627920911 | 9050 | nan | nan | nan | nan |
+| 0.0007 | 5.4523666866387055 | 9100 | nan | nan | nan | nan |
+| 0.0012 | 5.482324745356501 | 9150 | nan | nan | nan | nan |
+| 0.0021 | 5.512282804074296 | 9200 | nan | nan | nan | nan |
+| nan | 5.512282804074296 | 9200 | 0.026814261451363564 | 0.9472856018882769 | 0.9378773125608568 | 0.9568845618915159 |
+| 0.0018 | 5.542240862792091 | 9250 | nan | nan | nan | nan |
+| 0.0008 | 5.572198921509886 | 9300 | nan | nan | nan | nan |
+| 0.0018 | 5.602156980227681 | 9350 | nan | nan | nan | nan |
+| 0.001 | 5.632115038945477 | 9400 | nan | nan | nan | nan |
+| nan | 5.632115038945477 | 9400 | 0.028600633144378662 | 0.9444880345233426 | 0.9325973271353865 | 0.9566858732366382 |
+| 0.0012 | 5.662073097663272 | 9450 | nan | nan | nan | nan |
+| 0.0014 | 5.692031156381066 | 9500 | nan | nan | nan | nan |
+| 0.0008 | 5.721989215098862 | 9550 | nan | nan | nan | nan |
+| 0.0009 | 5.751947273816657 | 9600 | nan | nan | nan | nan |
+| nan | 5.751947273816657 | 9600 | 0.02801765501499176 | 0.9486952240275726 | 0.9404529480671613 | 0.9570832505463938 |
+| 0.001 | 5.781905332534452 | 9650 | nan | nan | nan | nan |
+| 0.0006 | 5.811863391252247 | 9700 | nan | nan | nan | nan |
+| 0.0006 | 5.841821449970042 | 9750 | nan | nan | nan | nan |
+| 0.0007 | 5.871779508687837 | 9800 | nan | nan | nan | nan |
+| nan | 5.871779508687837 | 9800 | 0.027837177738547325 | 0.9504872526823507 | 0.9418650019508389 | 0.9592688257500497 |
+| 0.0011 | 5.9017375674056325 | 9850 | nan | nan | nan | nan |
+| 0.0004 | 5.931695626123427 | 9900 | nan | nan | nan | nan |
+| 0.0007 | 5.961653684841222 | 9950 | nan | nan | nan | nan |
+| 0.0023 | 5.991611743559018 | 10000 | nan | nan | nan | nan |
+| nan | 5.991611743559018 | 10000 | 0.02906017005443573 | 0.948073701842546 | 0.9403831118060985 | 0.955891118617127 |
+| 0.0008 | 6.0215698022768125 | 10050 | nan | nan | nan | nan |
+| 0.0005 | 6.051527860994607 | 10100 | nan | nan | nan | nan |
+| 0.0004 | 6.081485919712403 | 10150 | nan | nan | nan | nan |
+| 0.0005 | 6.111443978430198 | 10200 | nan | nan | nan | nan |
+| nan | 6.111443978430198 | 10200 | 0.028767094016075134 | 0.9479176922319582 | 0.9395003903200625 | 0.9564871845817604 |
+| 0.0006 | 6.1414020371479925 | 10250 | nan | nan | nan | nan |
+| 0.0004 | 6.171360095865788 | 10300 | nan | nan | nan | nan |
+| 0.0017 | 6.201318154583583 | 10350 | nan | nan | nan | nan |
+| 0.0008 | 6.231276213301378 | 10400 | nan | nan | nan | nan |
+| nan | 6.231276213301378 | 10400 | 0.028408143669366837 | 0.9486523706472556 | 0.9394116501071498 | 0.9580766938207829 |
+| 0.0012 | 6.261234272019173 | 10450 | nan | nan | nan | nan |
+| 0.0006 | 6.291192330736968 | 10500 | nan | nan | nan | nan |
+| 0.0005 | 6.321150389454763 | 10550 | nan | nan | nan | nan |
+| 0.0004 | 6.351108448172559 | 10600 | nan | nan | nan | nan |
+| nan | 6.351108448172559 | 10600 | 0.028580138459801674 | 0.9488821038116813 | 0.9408203125 | 0.9570832505463938 |
+| 0.0004 | 6.381066506890353 | 10650 | nan | nan | nan | nan |
+| 0.0007 | 6.411024565608148 | 10700 | nan | nan | nan | nan |
+| 0.0006 | 6.440982624325944 | 10750 | nan | nan | nan | nan |
+| 0.0005 | 6.470940683043739 | 10800 | nan | nan | nan | nan |
+| nan | 6.470940683043739 | 10800 | 0.028719309717416763 | 0.9494929605198384 | 0.9410616705698673 | 0.9580766938207829 |
+| 0.0005 | 6.500898741761533 | 10850 | nan | nan | nan | nan |
+| 0.0012 | 6.530856800479329 | 10900 | nan | nan | nan | nan |
+| 0.0024 | 6.560814859197124 | 10950 | nan | nan | nan | nan |
+| 0.0006 | 6.5907729179149195 | 11000 | nan | nan | nan | nan |
+| nan | 6.5907729179149195 | 11000 | 0.028918283060193062 | 0.9498373903616832 | 0.9423152131403989 | 0.9574806278561494 |
+| 0.0005 | 6.620730976632714 | 11050 | nan | nan | nan | nan |
+| 0.0007 | 6.650689035350509 | 11100 | nan | nan | nan | nan |
+| 0.0007 | 6.680647094068305 | 11150 | nan | nan | nan | nan |
+| 0.0005 | 6.7106051527860995 | 11200 | nan | nan | nan | nan |
+| nan | 6.7106051527860995 | 11200 | 0.029035186395049095 | 0.9493359567142154 | 0.9401792673421668 | 0.9586727597854162 |
+| 0.0008 | 6.740563211503894 | 11250 | nan | nan | nan | nan |
+| 0.0007 | 6.77052127022169 | 11300 | nan | nan | nan | nan |
+| 0.0007 | 6.800479328939485 | 11350 | nan | nan | nan | nan |
+| 0.0011 | 6.8304373876572795 | 11400 | nan | nan | nan | nan |
+| nan | 6.8304373876572795 | 11400 | 0.02908284030854702 | 0.9500935131410573 | 0.9414748341786968 | 0.958871448440294 |
+| 0.0006 | 6.860395446375075 | 11450 | nan | nan | nan | nan |
+| 0.0011 | 6.89035350509287 | 11500 | nan | nan | nan | nan |
+| 0.0006 | 6.920311563810665 | 11550 | nan | nan | nan | nan |
+| 0.0005 | 6.95026962252846 | 11600 | nan | nan | nan | nan |
+| nan | 6.95026962252846 | 11600 | 0.028917143121361732 | 0.9512074913750616 | 0.9438575899843505 | 0.9586727597854162 |
+| 0.0004 | 6.980227681246255 | 11650 | nan | nan | nan | nan |
+| nan | 7.0 | 11683 | nan | nan | nan | nan |
+## Framework versions
+- Transformers: 2.3.0
+- Pytorch: (siehe Umgebung)
+- Datasets: (siehe Umgebung)
+- Tokenizers: (siehe Umgebung)