Our prompts to generate these personas were inspired by a study where they gave these prompts to human subjects, finding that by giving it to human subjects, they also were able to surface racial stereotypes.

Unsere Anfragen zur Erzeugung dieser Personen wurden von einer Studie inspiriert, in der sie diesen Anfragen menschliche Teilnehmer gaben und fanden, dass sie auch Rassenstereotypen aufdecken konnten.


We found that Encoder-Decoder or Encoder-PTR can be improved by training in a mixture of various languages.

Wir stellten fest, dass Encoder-Decoder oder Encoder-PDR durch Schulung in einer Mischung verschiedener Sprachen verbessert werden können.


We find that PRC has the highest percentage of dissonance and works best for rare class.

Wir stellen fest, dass die Anmerkung mit dem höchsten Prozentsatz von Anmerkungen und der besten Anmerkung für die Klasse ist.


Finally, the watermark needs to be transferable to the attacker's services during the model extraction process.

schließlich muss das Wasserzeichen während des Modellextraktionsprozesses auf die Services des Angreifers übertragbar sein.


We provide the first and second speech bubbles automatically, but the third one is filled in by the annotator.

Wir stellen automatisch die ersten beiden Sprachbubbles zur Verfügung, aber der dritte wird vom Kommentator gefüllt.


And in fact, this lexicon doesn't really capture many of the harmful patterns that we saw in the earlier slides well at all.

Und in der Tat hat der Lesekontext nicht wirklich viele der schädlichen Muster erfasst, die wir in den früheren Zeilen gesehen haben,


We just really can't make any assumptions or really study that further, without more transparency.

Wir konnten wirklich keine Annahmen treffen, und wir untersuchten das weiter mit mehr Transparenz.


So if we do not sanitize political opinions in language model training data, the bias would propagate from pretraining data to language models to downstream tasks, ultimately creating fairness issues.

Wenn wir die politischen Meinungen in den Sprachtrainingsdaten nicht standardisieren, würde sich die Vorliebe auf die vorherigen Sprachmodelle bis hinunter zu den Aufgaben erstrecken, was letztlich zu Fairnessfragen führen würde.


So thank you for this presentation, and we are looking forward to exchange at the poster session in Toronto.

Dank für diese Präsentation, und wir freuen uns auf Aktionen bei der Post in Toronto.


The third one is when they have similar descriptions on Wikipedia.

und die dritte Methode ist die gleichartige Zufallsauswahl, z.B. zwei Bücher


Here are some examples of indirect references for example, "the newer one" or "the song that's not energetic."

hier sind einige Beispiele für direkte Präferenzen, z. B. der neueste oder der nicht energiereiche.


The majority of sentences 516 out of 1,000.


And show that large language models can effectively decompose goals into steps.

und zeigen, dass große Sprachmodelle Ziele effektiv in Schritte zerlegen können.


So let's start off by imagining that you're working for a newspaper and you're sifting through comments under your news article trying to remove toxic content.

Lassen Sie uns also davon ausgehen, dass Sie für eine Zeitung arbeiten und versuchen Sie, den Inhalt zu entfernen.


Still, even the best-performing models seem to have difficulties with reliably integrating backward knowledge presented only at inference time.

Stille. Auch die besten Modelle scheinen Schwierigkeiten mit zuverlässig integriertem rückwärts gerichteten Wissen zu haben, das nur bei der Inferenzzeit vorgestellt wird.


Now, we use the MuDA benchmark to evaluate models and we find that context-aware models are significantly more accurate than models that do not use context for certain discourse phenomena such as formality and lexical cohesion.

verwenden wir den Munda-Benchmark, um Modelle zu bewerten, und wir stellen fest, dass Kontextmodellen signifikant genau sind als Modelle, die Kontext nicht für


So this has sound the alarm for us to acknowledge and tackle the fairness issues resulting by language model political leanings.

sich greifen könnte. Diese klingen also wie eine Warnung für Sie, um die Fairness-Probleme zu erkennen und anzugehen,


ein neues Trainingsprogramm für die Mädchen. Dies


Technically, this claim is not wrong, but there's a catch, which is that people do assume that there's an additional clean validation set available for model selection.

Tatsächlich ist diese Behauptung nicht falsch, aber es gibt einen Haken. Denn die Leute gehen davon aus, dass es für die Modellauswahl ein zusätzliches sauberes


Since large language models are costly to deploy, it's essential to enable language planning ability of smaller and specialized models.

Da große Sprachmodelle teuer zu implementieren sind, ist es unerlässlich, Sprachplanung für kleinere und spezialisierte Modelle zu ermöglichen.


Existing cross-lingual semantic parsing models are separately proposed and evaluated on data set of limited tasks and applications.

Bestehende Cross-Lingual-Semantic-Parsing-Modelle werden separat auf Datensätzen mit begrenzten Aufgaben und Anwendungen vorgeschlagen


We also find some other interesting findings.

Wir werden auch einige andere interessante Erkenntnisse


durchgeführt. Jetzt ist klar, dass Sie für eine Zeitung arbeiten und Kommentare und Artikel schreiben und versuchen, den Inhalt zu entfernen.


We call this approach annotating behaviors in chat or ABC-Eval in short.

Wir nennen diesen Ansatz „Annotieren von Verhaltensweisen in Chats“ oder „ABC-Eval in Kürze“.


First, to use already existing offline ST models without re-training or adopting specific architecture for SimulST.

Erstens, verwenden Sie bereits vorhandene Online-SD-Modelle ohne Wiedertrainieren oder die Anpassung spezifischer Architekturen für CivilSD; verwenden


And we called our tagger the Multilingual Discourse-Aware, or MuDA tagger.

nennen unseren Tigrer den multilingualen Diskurs bewusst oder umuda Tigrer.


Hello, I am Dawei, a PhD student at Saarland University in Germany.

Hallo, ich bin Dawid, ein Doktorand an der Universität Salent in Deutschland.


And we also find many interesting results.

Wir stellen auch viele interessante Ergebnisse


Our method greatly improves the planning ability both in semantic completeness and faithfulness to the constraint.

Unsere Methode verbessert die Anfälligkeit sowohl in semantischer Vollständigkeit als auch in Treue zu den Einschränkungen.


And this shows us that adaptive overfitting in this case is not observed.

Und das zeigt uns, dass adaptive Überanpassung in diesem Fall nicht beobachtet wird.


Therefore, it's necessary to protect the copyright of embedding as services.

Daher ist es notwendig, das Urheberrecht von Embedding- und Services zu schützen.


In addition, ABC-Eval labels are more predictive of the overall conversation quality compared to metrics produced by existing methods, as shown by this simple linear regression analysis.

zu Metriken, die durch existierende Methoden erzeugt werden, wie durch die einfache Regressionsanalyse. Beispielsweise können Sie sehen, wie die Proportionen der Drehungen mit


So we get dependencies from the governor.

Gouverneurs hier die Abhängigkeiten von allen


Their performance gain and practicality are heavily overestimated.

wobei Leistungszuwächse und Praktikabilität stark überschätzt werden.


We observe that models have been used in CoNLL-2003 to develop NER for almost 20 years and this naturally raises several problems.

Wir beobachten, dass Modelle seit 2003 Kornell verwendet haben, um NER zu entwickeln. Das wirft natürlich einige Probleme auf.


We also find most additional alignment with people who have a college education.

Wir finden auch die meisten zusätzlichen Zuordnungen zu Personen mit Hochschulbildung, daher finden


In total, we generate 55,000 specific goals with scripts.

Insgesamt generieren wir fünfzigtausend spezifische Ziele mit Skripten,


And second, how well do models handle these cases?

und zweitens, wie gut können die Modelle diese Fälle handhaben.


First of all, when we use corpus-level metrics: so for BLEU, we find that context-agnostic models have the best performance.

Erstens, wenn wir Korpus-Level-Metriken verwenden, sehen wir, dass die komplexen agnostischen Modelle die beste Leistung


To summarize, we showed that recent WSL approaches require clean, manually annotated samples for them to work properly.

Zusammenfassend lässt sich sagen, dass aktuelle WSL-Ansätze saubere, manuell annotierte Proben benötigen, um richtig zu funktionieren,


We addressed these research questions in our work and our findings are as follows.

Wir gehen in unserer Arbeit auf diese Forschungsfragen ein, und unsere Ergebnisse sind wie folgt.


And we saw here in the orange dotted line, the MPP judgments are relatively stable.

wir sahen hier in der Orange-Dot-Zeile, dass die MP-P-Juristen relativ stabil sind.


In addition, we reward the script that contains the keywords of the target constraint.

Darüber hinaus vermeiden wir das Skript, das die Schlüsselwörter der Zielbeschränkung enthält.


Thus, this is the model that we use to cold start the active learning.


Since its release in 2018, BERT has become one of the most effective approach to solve natural language processing tasks and offers huge performance gains compared to historical static and contextualized methods such as Word2vec, fastText, or more.

Seit seiner Veröffentlichung im Dezember ist BERT zu einem der effektivsten Ansätze für die Verarbeitung natürlicher Sprache geworden und bietet im Vergleich zu historischen statischen und kontextualisierten Methoden enorme Leistungssteigerungen.


So if we do not sanitize political opinions in language model training data, the bias would propagate from pretraining data to language models to downstream tasks, ultimately creating fairness issues.

Wenn wir politische Meinungen in Sprachmodellierungstrainingdaten nicht saniert haben, würde der Bias sich von vorbereitenden Daten zu Sprachmodellen und schließlich zu Downstream-Aufgaben ausbreiten, was letztendlich zu Fairnessproblemen führen würde.


These utterances are paired with logical forms that represent core aspects of their meaning.

hatte. Diese Aussagen werden mit logischen Formen gepaart, die die Kernaspekte ihres Sinns darstellen.


First, we have the typical setting: "Background-Pretrain", where background knowledge is assumed to be available at pretrain time.

Erstens den typischen Einstellung: Hintergrund vorbereiten, bei der man davon ausgeht, dass Hintergrundwissen zur Vorbereitung verfügbar ist.


So why does the match prefix affect the language model judgement so much?

beeinflussen. Daher, warum beeinflusst der Match-Präfix die Sprachmodellbewertung so stark?


We conduct a comprehensive benchmark study on three representative types of multilingual language models.

Wir führen eine umfassende Benchmark-Studie zu drei repräsentativen Typen von mehrsprachigen Sprachmodellen durch,


Wir finden auch die meisten zusätzlichen Angaben zu Personen mit Hochschulbildung, so dass


And we also released open source the code and models and simultaneous output to facilitate the reproducibility of our work.

und wir stellen auch Open-Source-Code und Modelle zur Verfügung, um die Reproduzierbarkeit unserer Arbeit zu erleichtern,


Therefore, in this paper we propose Embedding marker, which is a backdoor based watermark method applicable to embedding as services.

Daher schlagen wir in diesem Papier Embedder vor, eine Backdoor-basierte Methode zur Anwendung auf Embedding- und Dienstleistungen.


Unser Rahmenwerk funktioniert in zwei Hauptschritten.


So the proportion is bigger of the left short conjunct.

ist die Proportion größer von dem linken kürzeren Konjunkt,


And then the hope is that the model, basically, puts more probability to the acceptable sentence.

die Hoffnung, dass das Modell im Grunde mehr Wahrscheinlichkeit auf die akzeptable Situation legt.


And we compare with popular strategies that are also applied to offline models that are the Wait-k strategy and the Local Agreement.

Und wir vergleichen mit geeigneten Strategien, die auch auf Offline-Modelle angewendet werden können, nämlich die Whitkey-Strategie und die lokale Vereinbarung,


We use all the instances in the test split for each task.

Milleisenas auswählen. Wir verwenden alle Instanzen im Testset für


And we perform our analysis on transcripts of TED talks that have been translated from English to 14 different languages.

Und wir führen unsere Analysen auf Transkripte von Ted Talks durch, die in vierzehn verschiedenen Sprachen übersetzt wurden.


And finally, for black women, we see that some of the top words are things like "strong" and "resilient".

schließlich sehen wir bei den schwarzen Frauen, dass einige der Top-Wörter Dinge wie stark und widerstandsfähig sind.


Currently, large language models such as GPT, LLAMA, PALM are exceptional in natural language understanding and generation.

zunächst die Hintergründe der Einbettung von Diensten erläutern. Derzeit sind große Sprachmodelle wie TpT, Llama, Palm im Bereich des natürlichen Sprachverständnisses und der Sprachgenerierung


During training, we mix all the instances for all the tasks.

während des Trainings mischen wir alle Instanzen für alle Aufgaben,


We can think of words that have high P-CXMI as ones that require context for translation.

Wir können annehmen, dass Wörter mit hohem XMI eine Übersetzung erfordern.


We evaluate the data set both with human study participants, and established coreference resolution models.

Wir bewerten das Datensatz sowohl mit menschlichen Studienteilnehmern als auch mit etablierten Frage-Antwort-Modellen.


Our second finding is that increasing the number of clean validation samples will help WSL approaches to achieve better performance, as shown in the figure on the left.

Unsere zweite Erkenntnis ist, dass die Erhöhung der Anzahl der Reinheitsvalidierungsproben den WSS-Ansätzen helfen wird, eine bessere Leistung zu erzielen, wie in der Abbildung auf der linken Seite dargestellt.


während des Trainings vermischen wir alle Instanzen für alle Aufgaben;


To ensure the quality of the validation and test set, we ask crowd-sourced workers to find and revise the incorrect samples.

um die Qualität der Validierung und Teststätten zu gewährleisten, und bitten Crowdsource-Worker, die unkorrekten Muster zu finden und zu korrigieren.


Now, what happens when we choose sentences from the same data set?

Was passiert nun, wenn wir Sätze aus demselben Datensatz auswählen?


Also, transfer learning from natural instruction dataset can benefit instruction tuning.

natürlichen Sprachdatensätzen kann beim Anpassen von Anweisungen helfen.


Copyright verification is to detect whether a model behind another service contains the word mark.

Die Urheberrechtsprüfung soll feststellen, ob ein Modell hinter einem anderen Dienst die Wasserzeichen enthält.


We separately pretrain language models on the two different temporal corpora.

und trennen Sprachmodelle auf zwei verschiedene zeitliche Korpora.


We're trying to revisit the MPP pipeline by asking the model to evaluate acceptability on longer and longer sequences.

versuchen, indem wir bitten, das Modell zu überprüfen, um die Akzeptanz auf längere und längere Sequenzen zu bewerten.


Our data set covers three different domains: music, books, and recipes.

unser Datensatz umfasst drei verschiedene Bereiche: Musik, Bücher und Rezepte.


A Data-driven, Multilingual Exploration".


Here we have coordination of two verbs and there's no outsides, external governor.

Außenstelle des Gouverneurs nicht zusteht, die beiden Länder gegeneinander auszuspielen.


If you want to learn more about our experiments and how we address these challenges, please have a look at our paper or come to our poster.

Wenn Sie mehr über unsere Experimente und wie wir diese Herausforderungen angehen möchten, bitten wir Sie, unsere Publikation oder unsere Poster zu besuchen.


With our method, InstructGPT can generate scripts of higher quality.

Mit unserer Methode kann Insensitivität zu höherer Qualität führen.


Positionality is simply the perspectives that people hold as a result of their demographics, identity, and life experiences.

Positionierung ist einfach die Perspektiven, die Menschen aufgrund ihrer Demografie, Identität und Lebenserfahrungen haben.


Which is not the case for the model based on CamemBERT weights and tokenizer, which suffer from stability issues.

Dies ist nicht der Fall für das Modell, das auf Camberweights und Token basiert, die aus Stabilitätsgründen stammen.


Finally, the performance improvement claimed in previous WSL approaches can be easily achieved by allowing to continue fine-tuning on the clean validation samples.

Schließlich kann die Leistung, die in früheren WS-L-Annäherungen behauptet wurde, leicht erreicht werden, indem man weiterhin feine Anpassungen auf sauberen Validierungssampeln vornimmt.


We used dissonance-first approach, as seen in the flow chart here.

Wir verwenden den Distanz-First-Ansatz, wie in der Flowchart hier zu sehen ist. „Tweets“ werden mit einem


And during inference we can use this model to translate German queries or Chinese queries, et cetera.

und können dieses Modell während des Lernens verwenden. Um deutsche oder chinesische Anfragen zu übersetzen. Und wir berücksichtigen


For example, we find that data sets and models are most aligned to English speaking countries.

Beispiel finden wir heraus, dass die Datenmodelle für die meisten englischsprachigen Länder am besten geeignet sind,


Tweets were passed using the PDTB parser, and pairs of discourse units were annotated according to the guidelines that are described in our paper.

„PDT-Parser“ verarbeitet und „Paare von Diskussionsgruppen“ werden entsprechend der in der Leitlinie beschriebenen Anweisungen annotiert.


So the Marked Words method draws upon the sociolinguistic concept of "markedness", which states that there is an unmarked default, and any group that differs from that default is linguistically marked.

Die Markierungsmethode bezieht sich auf den soziolinguistischen Begriff der Markiertheit, der besagt, dass es sich um eine unmarkierte Gruppe handelt. Also zum Beispiel das Wort Mann oder Krieger ist normalerweise mit dem


Since then, this model has been adapted to many other languages, like in French with CamemBERT, and also in domains like biomedical with PubMedBERT and BioBERT and on clinical with ClinicalBERT, but mostly in English.

Seitdem wurde dieses Modell auf viele andere Sprachen wie Französisch mit CamemBERT, andere Domänen wie Biomedizin mit PubMedBERT und BioBERT, und klinische mit ClinicalBERT, aber hauptsächlich auf Englisch adaptiert.


We also validate the covertness of the provided embedding by visualising the embedding of sentences on four dataset [INAUDIBLE 4:39] PCA.

Wir haben auch die Geheimniskrämerei der vorgestellten Einbettung durch die Visualisierung der Einbettung von Sätzen auf 40. z. v. p. c. A. bestätigt,


Wir versuchen, die MPB-Pipeline zu überprüfen, indem wir die Modelle bitten, die Akzeptanz auf längere und längere Sequenzen zu bewerten.


And finally, we use our benchmark as well as other metrics to evaluate different models on the document-level machine translation.

Und schließlich verwenden wir unseren Benchmark wie andere Matrizen, um verschiedene Modelle auf der Dokumenten-Ebene der Maschinentranslation zu bewerten.


So in our method, we first designate what the unmarked and marked groups are, and then we compare the personas using the Fightin’ Words method, which is basically using weighted log-odds ratios to distinguish the top words for each marked group.

In unserer Methode werden zuerst die unmarkierten und markierten Gruppen ermittelt. Und dann vergleichen wir die Personen, die die Fighting Words-Methode verwenden, die im Grunde die Weighted Logit-Methode verwendet, um die Top-Wörter jeder Gruppe zu unterscheiden.


So thank you for this presentation, and we are looking forward to exchange at the poster session in Toronto.

danken wir Ihnen für diese Präsentation und wir freuen uns darauf, in Toronto bei der Postzustellung Aktionen zu unternehmen.


So, given that there is positionality in NLP, what can we do about it?

Angesichts der Tatsache, dass es sich um eine Position in einer LED und LP handelt, was können wir tun?


First, when does translation require context?

Erstens: Wann benötigt eine Übersetzung einen


I would like to present our work accepted into ACL 2023 as a long paper, "Transfer Learning for Dissonance Detection: Addressing the Rare-Class Challenge."

Ich würde gerne unsere Arbeit, die in den ACL 23 als langen Papier zur Transfer-Learning für die Erkennung von Dissonanzdetektionen, die sich der seltenen Klasse widmet, angenommen wurde, präsentieren.


But natural language understanding often requires knowledge that is also supplied at inference time.

Aber das Verständnis der natürlichen Sprache erfordert oft Wissen, das auch im Zeitraum der Nachsorge bereitgestellt wird.


Our method greatly improves the planning ability both in semantic completeness and faithfulness to the constraint.

Unser Verfahren verbessert die Schmerztoleranz sowohl in der semantischen Vollständigkeit als auch in der Treue gegenüber den Einschränkungen.


So a lot of translations depend on context.

Viele Übersetzungen hängen vom Kontext ab, zum Beispiel:


möchten. Überlegen Sie sich diese alternative


The current MPP pipeline basically doesn't allow us to evaluate a model's acceptance towards longer sentences.

Die aktuelle MPP-Pipeline ermöglicht es uns im Grunde nicht, die Akzeptanz eines Modells für längere Sätze zu bewerten.


This makes our approach quite flexible and expressive.

hat. Dies macht unseren Ansatz sehr flexibel und ausdrucksstark.


However, we can observe that data from heterogeneous sources appear to be more versatile.

Wir können jedoch feststellen, dass Daten aus heterogenen Quellen vielseitiger zu sein scheinen,


And we evaluate on mT5 and XLM-R + PTR on multilingual setting.

Und wir evaluieren das auf Mf fünf und das Beispiel Xlm plus Pd auf mehrsprachige Einstellungen.


For example, the one with the piano music.


However, the annotators also find the examples difficult.

Annotatoren stellen auch heraus, dass die Beispiele schwierig sind.


Our solution is to propose EDAtt, or Encoder-Decoder Attention, and it is a strategy for which we decide whether to emit or not a partial translation, based on where attention points to.

Unsere Lösung besteht darin, die Aufmerksamkeit zu fokussieren oder zu kodieren, und es ist eine Strategie, bei der wir entscheiden, ob wir eine partielle Übersetzung vornehmen oder nicht, basierend auf den Punkten der Aufmerksamkeit.


We also test Monolingual Few-shot setting by training monolingual models with only 10% of training data.

Wir testen auch die monolingualen Einstellungen, indem wir mit nur zwölf Prozent der Trainingsdaten monolinguale Modelle trainieren.


The trigger set is a group of words in a moderate frequency interval.

die Antriebsmenge ist eine Gruppe von Wörtern in einem moderaten Frequenzintervall.


First, we find that, interestingly, recent WSL methods indeed require clean validation samples to work properly.

wir fest, dass interessante neuere WSL-Methoden tatsächlich saubere Validierungsmuster erfordern, um richtig zu funktionieren.


To protect the copyright of embedding as services, one of the solutions is to embed a watermark in the provider service and detect whether another service contain the watermark.

Um das Urheberrecht von eingebetteten Diensten zu schützen, wird eine der Lösungen ein Wasserzeichen in den Dienst des Anbieters eingebettet und festgestellt, ob ein anderes Dienst das Wasserzeichen enthält.


I think this is known as the "Curse of Multilinguality".

erzielt. Ich glaube, das ist ein Fluch der Vielsprachigkeit.


As you may know, there are different dependency structures assumed by different theories and corpus approaches.

Wie Sie vielleicht wissen, werden verschiedene Abhängigkeitsstrukturen von verschiedenen Theorien und Korpusansätzen angenommen, also


And we test Multilingual Model which we train one multilingual model for all languages.

Und es hat ein monolinguales Modell, das wir für alle Sprachen trainieren.


We use large language models to generate a high-quality script dataset, CoScript, for constrained language planning.


And what are the problems of the current SimulST models?

Und was sind die Probleme der aktuellen SimulST-Modelle?


When we move higher in the list, the entities become more similar to each other and it's usually harder to make the disambiguation.

Wenn wir uns weiter oben auf der Liste bewegen, werden die Entitäten sich gegenseitig ähnlicher und es ist in der Regel schwieriger, die Abweichung zu erkennen.


Finally, we can choose sentences from a completely unrelated domain such as Wikipedia.

Schließlich können wir Sätze aus einem völlig unabhängigen Domäne, wie z.B. einer


For example, we find that data sets and models are most aligned to English speaking countries.

Zum Beispiel finden wir heraus, dass die Datensätze und Modelle am meisten mit englischsprachigen Ländern ausgerichtet sind.


However, the "Style/Awkward" category for PaLM is lower than for the state-of-the-art systems, which is an additional signal that PaLM provides really fluent output, but still with some problems of accuracy.

Allerdings ist die Kategorie „Stil“ für Panm niedriger als für die neuesten Systeme, was ein zusätzlicher Hinweis ist. Doch die Ausgabe ist wirklich fließend, aber mit einigen Problemen der Genauigkeit. Das


So prior work has suggested some anecdotal evidence of having positionality, such as cultural gaps and models and data sets, as well as theoretical definitions of model positionality.

So legen Prinziparbeiter einige anekdotische Beweise für die Positionierung voraus, wie kulturelle Lücken und Modelle und Datensätze, sowie die tatsächliche Definition der Modellposition.


To the goal of creating a cognitive dissonance resource, we conducted a large scale annotation of dissonance relations.

Zum Zweck der Schaffung einer kognitiven Distanzressource haben wir eine große Anzahl von Distanzbeziehungen hergestellt.


But also we want that they are shifted on the left.

auf diesem Plot. Aber auch wir wollen, dass sie auf der linken Seite verschoben werden.


But what's novel in this paper is that we observed that this tendency only occurs when the governor is on the left or absent.

Was jedoch neu ist, ist, dass wir festgestellt haben, dass diese Tendenz nur auftritt, wenn der Gouverneur links ist oder abwesend ist. Richtig, also


We observe that models have been used in CoNLL-2003 to develop NER for almost 20 years and this naturally raises several problems.

Wir beobachten, dass Modelle fast 20 Jahre lang Kondor verwenden, um NER zu entwickeln, und das bringt natürlich mehrere Probleme mit sich, zum Beispiel:


Additional experiments with fictional knowledge indicated even the best performing models, cannot reliably integrate backward knowledge provided only at inference time.

Zusätzliche Experimente mit fiktivem Wissen zeigen, dass selbst die besten Modelle das Hintergrundwissen nicht zuverlässig integrieren können.


The benefit of this is that we get really specific stereotypes and patterns, without having to rely on any specific lexicon.

Der Vorteil davon ist, dass wir wirklich spezifische Stereotypen und Muster erhalten, ohne uns auf einen spezifischen Lexikon verlassen zu müssen.


It's okay the way instead of "it", we have this long NP.

ist absolut faszinierend, ich bin okay, anstatt davon, dass wir die lange und lange Pinguine haben.


Firstly, can these models generalise to modern data?

Erstens, können diese Modelle auf moderne Daten generalisiert werden?


On further rounds of AL with two best strategies, we improve dissonance classification AUC to 0.75, which is the best performance that we have on the task so far.

In weiteren Runden von AL mit zwei der besten Strategien verbesserten wir die Distanzklasse AUC auf 0,75, was bis jetzt die beste Leistung ist, die wir auf der Aufgabe erreicht haben.


So with the advances in large language models, many works started to explore new learning paradigms of reusing pre-trained language models for different downstream tasks in a parameter and data-efficient way.

Mit den Fortschritten bei großen Sprachmodellen begannen viele Arbeiten, neue Lernparadigmen für die Wiederverwendung von vortrainierten Sprachmodellen für verschiedene Downstream-Aufgaben zu erforschen. Viele Studien


To answer this question, we compare DrBERT with our ChuBERT model, which is based on anonymized data obtained from the Nantes University Hospital data warehouse.

Um diese Frage zu beantworten, vergleichen wir Dr. Bert mit unserem Schulbert-Modell, das auf anonymisierten Daten basiert, die wir aus dem Non University Hospital Data House erhalten.


In particular, they often fail to reproduce the systematic correspondences between input and output, such as those that are color-coded in the example.

Insbesondere scheiterten sie oft daran, die systematischen Korrespondenzen zwischen Input und Output zu reproduzieren, wie die, die im Beispiel farbcodiert sind.


Additionally, at the time of our research, we discovered a considerable discrepancy in the availability of instructional datasets between NLP and multi-modal.

Darüber hinaus entdeckten wir in der Zeit unserer Forschung eine beträchtliche Diskrepanz in der Verfügbarkeit von Trainingsdatensätzen zwischen LBP und Multimodal.


So instead to do that, we'll turn to the results from our Marked Words method to show how these positive-seeming words facilitate stereotypes and essentializing narratives.

Stattdessen werden wir uns die Ergebnisse aus der Marktwahl ansehen, um zu zeigen, wie diese positiv erscheinenden Wörter Stereotypen und Stereotypisierungen aufweisen.


Our model outperforms the others by a large margin on generalization to deeper recursion.

Unser Modell übertrifft die anderen bei der Generalisierung zu tiefer Rekursion deutlich. Andere


And so we opt to re annotate data to get many annotates for instance and to get a rich set of demographic data.

werden, und so versuchen wir, Daten zu wiederauswerten, um viele Annotatoren für jede Instanz zu erhalten und zu teilen. -Set anhand der demografischen Daten.


We follow the method from OFA and formulate all the tasks in a unified sequence-to-sequence format.

Wir folgen dem von OFA gegebenen Leitfaden und formulieren alle Aufgaben in einer sequenz-zu-sequenz-Formatierung,


High cognitive dissonance is also related to anxiety disorders and can help understand people's mental health better.

Eine hohe kognitive Distanz ist auch mit Angststörungen verbunden und kann helfen, Menschen ihre geistige Gesundheit besser zu verstehen.


It's the examples that carry most of the weight.


This work was done by the Emory NLP Lab led by Professor Jinho Choi at Emory University and in collaboration with Amazon Alexa AI.

Diese Arbeit wurde vom Emery Lab der Universität von Emery geleitet, unter der Leitung von Professor Gino Ochoa und in Zusammenarbeit mit Amazon Alexa AI. Lassen


In this work, we try to answer these two questions.

In dieser Arbeit versuchen wir, diese beiden Fragen zu beantworten:


To investigate these problems, we developed the CoNLL++ Dataset.

Um diese Probleme zu untersuchen, entwickeln wir das Daten-Satz Carneal


Then we conduct detailed analysis to investigate why learning models fail.

Dann führen wir detaillierte Analysen durch, um zu ergründen, was die Landmodellfunktionen sind. Die Ergebnisse


We only keep the script if the target goal scores the highest in the goal set.

wenn das Skript die höchste Punktzahl im Zielbereich hat.


Second, the watermark should not degrade the utility of the provided embeddings.

Zweitens sollte die Wasserzeichenmethode die Nützlichkeit der vorgesehenen Einbauten nicht verringern.


This is joint work with my colleagues from Google Translate.

Dies ist eine gemeinsame Arbeit mit meinen Kollegen von Google Translate.


For example, in the sentence, "John saw the newly elected president on TV."

Zum Beispiel sah John in der Sätze den neu gewählten Präsidenten im Fernsehen.


And we show in the paper how this provides an argument against asymmetric structures of coordination, as these two, and for the symmetric structures, as these two.

und wir zeigen im Papier, wie dies geschieht. 1 bietet ein Argument gegen asymmetrische Koordinierungsstrukturen wie diese beiden und fördert asymmetrische Strukturen wie diese beiden. Sehen


For example, if we receive a speech chunk containing "I'm going to talk about..." and our model predicts the translation in German, and we will look at the cross-attention weights, we'll see that the first two words points to the earliest received speech frames, while the last word points to the last received speech frames, as lambda speech frames.

Wenn wir beispielsweise einen Spruchabschnitt erhalten, der „Ich werde darüber sprechen“ enthält, und unser Modell eine Übersetzung ins Deutsche vorhersagt, wird die Übersetzung in der Regel verwendet. Und wir werden uns die Gewichte ansehen. Wir können sehen, dass die ersten beiden Wörter auf die frühesten erhaltenen Sprachrahmen hinweisen, während das letzte Wort auf die letzten erhaltenen Sprachrahmen hinweist („Lambda-Sprachrahmen“).


Previous work has exploited language models to plan for abstract goals of stereotypical activities such as "make a cake".

vorherigen Arbeit wurden Sprachmodelle genutzt, um für abstrakte Ziele von stereotypischen Aktivitäten wie Make-a-Kick zu planen und zu


Hi, I am Yanis Labrak and I will present you our works on "DrBERT: A Robust Pre-trained Model in French for Biomedical and Clinical Domains."

Hallo, ich bin Yanislav und werde Ihnen unsere Arbeiten in Französisch für biomedizinische und klinische Bereiche vorstellen.


uns ansehen. Also, wie funktioniert das Modell?


So we divide pretraining corpora, into pre 45th president of the United States and after 45th president of the United States.

Wir unterteilen also das Präsidium der Vereinigten Staaten in zwei verschiedene temporale Korpora und das Präsidium der Vereinigten Staaten


First, to use already existing offline ST models without re-training or adopting specific architecture for SimulST.

Zunächst verwenden wir bereits bestehende Offline-CT-Modelle ohne Wiedertrainieren oder spezifische Architekturen für CT-CT anpassen:


For investigating multi-modal instruction tuning on our proposed dataset, we take OFA, a unified multi-modal pre-trained model, as our base model.

Für die Untersuchung der mehrmodalen Anweisung auf unserem vorgeschlagenen Datensatz nehmen wir Ofa als unser Basismodell, Ofa


So going back to the question that we raised in the title of our paper Do CoNLL-2003 taggers still work in 2023?

Zurück zu der Frage, die wir in unserem Bericht aufgeworfen haben: Funktionieren die Cornel-Tagger noch im Jahr 2003? Und


As we can see by transfer learning from natural instruction datasets, the model can achieve much better sensitivity compared to the original OFA model.

Transferlernen von den Datensätzen der natürlichen Anweisung kann das Modell im Vergleich zum ursprünglichen OA-Modell eine viel höhere Empfindlichkeit erreichen.


Our approach predicts the output from the input in two steps.

Unser Ansatz prognostiziert den Output aus dem Input in zwei Schritten. Zuerst


I mean, we want to emphasise that inclusive NLP isn't just making.

ist die Masakani-Initiative. Ich möchte betonen, dass die inklusive NLP nicht nur alle


We conduct a comprehensive benchmark study on three representative types of multilingual language models.

Wir führen eine umfassende Benchmark-Studie zu drei Vertretern von Typen von Mehrsprachigen Modellen durch,


In each experiment, we report the min and max performance and the standard deviation of the performance across all 5 experiments.

in jedem Experiment bewerten. Wir berichten über die mittlere und maximale Leistung und die Standardabweichung der Leistung in allen fünf Experimenten.


If we do try to sanitaze somehow, we would also risk censorship, or exclusion.

Wenn wir versuchen würden, in irgendeiner Weise zu sanitieren, würden wir auch Zensur oder Auslassungen riskieren, und


In the second speech bubble, Alice says, "Do you mean 'Easy on Me' or 'I Gotta Feeling'?"

In der zweiten Sprechblase sagt Alice: „Meinst du leicht von mir oder habe ich ein Gefühl?“


This work is done in collaboration with Esin Durmus and Dan Jurafsky.

in Zusammenarbeit mit Esender und Danroski durchgeführt.


For example, for RoBERTa further trained on the left-leaning Reddit corpus we can see a substantial liberal shift in terms of its political biases.

Zum Beispiel, für Roberta, weiter trainiert auf dem linken linkierten Korpus, können wir einen substantiellen liberalen Verschiebung in In Bezug auf die politischen Vorurteile


Here's for example, the Google search result for the song "Easy on Me."

Hier ist zum Beispiel das Google-Suchergebnis für das Lied „Easy Annie“. Für


Ansätze sind symmetrisch. Jetzt sind auch die


And lastly, please make sure to check out our paper, our data set and if you have any questions, feel free to contact me.

bitte, überprüfen Sie unser Papier, unsere Datenbank, und wenn Sie irgendwelche Fragen haben, können Sie sich frei mit mir in Verbindung setzen.


In addition, we reward the script that contains the keywords of the target constraint.

Darüber hinaus achten wir auf das Skript, das die Schlüsselwörter des Zielkontrahnts enthält.


ermittelt werden kann. Was wir sagen, ist, dass die Regierung auf der


And when we develop new taggers, what is needed for good generalization?

Und wenn wir neue Tags entwickeln, was ist für eine gute Generalisierung erforderlich?


Before these main steps, we first select a trigger set.

Hauptschritte durchgehen, wählen wir zunächst ein Triggerset.


So this will tell us like whether the models acceptability judgments are actually impacted by any context, like, whether the context is coming from a different subset of the data set, or whether it's like completely irrelevant, to the current like to the sentence that we are looking at.

anderen Sprache oder einer anderen Domäne, auswählen, um die Akzeptanzfähigkeit der Modelle zu testen. Wikipedia, auswählen. Erzählen Sie uns, ob die Akzeptabilitätsurteile der Modelle tatsächlich von irgendeinem Kontext beeinflusst werden, wie zum Beispiel, ob der Kontext aus einem anderen Teilmenge des Datensatzes kommt oder ob er völlig irrelevant zum aktuellen Satz ist, den wir


If we go on and we receive another speech chunk, and our model predicts other three words and we will look at those cross-attention weights, we will see that no word points to the last lambda speech frames.

Wenn wir weitermachen und wir erhalten einen anderen Speech-Tag und unser Modell prädiziert. Wir werden die drei Wörter in der Reihenfolge, in der sie geordnet sind, und wir werden die Kreuz-Atten-Wege darauf untersuchen. Wir werden sehen, dass kein Wort auf die letzten Lambdas des Speech-Frames zeigt.


Our third recommendation is to build specialised datasets and models within 4 specific communities.

dritte Empfehlung ist es, spezielle Datensätze und Modelle in vier spezifischen Gemeinschaften zu erstellen,


These reliable, informative, and distinct ABC-Eval metrics enable us to evaluate conversational AI with a higher resolution than previous methods are able to achieve.

Diese zuverlässigen, informierenden und einzigartigen ABC-EVL-Metriken ermöglichen es uns, die konversationelle AI mit einer höheren Auflösung zu bewerten als es die vorherigen Methoden erreichen können.


And we also consider Cross-lingual Zero-shot and Few-shot transfer.

wir erwägen auch die Transferierung von Zero-Shot- und Feature-Transfer


Beispielsweise können wir bei Roberta eine weitergehende Finanzierung des linken Korpus sehen. In Bezug auf seine politischen Vorurteile.


We address this by inducing the alignment as part of the training.

Wir behandeln dies, indem wir die Ausrichtung als Teil des Trainings induzieren.


We find that all language models achieve unsatisfactory results on planning for specific goals.

Wir stellen fest, dass alle linearen Modelle unzufriedenstellende Ergebnisse bei der Planung für spezifische Ziele erzielen.


A good planner should write scripts that are reasonable and faithful to constraints.

Ein guter Planer sollte Skripte schreiben, die vernünftig und den Einschränkungen treu sind.


As usual, we have a training set of utterances.


So we want our curves to be as high as possible on this plot.

dass unsere Queue so hoch wie möglich auf


We also observe that using more data translated to better performance.

um mehrsprachig zu sein, und dass die Verwendung mehrerer Daten zu besseren Leistungen führt.


So in practice, there's no reason to choose more complex WSL methods which require more computation time and disk space.

Daher gibt es keinen Grund, in der Praxis komplexere WS-L-Methoden zu wählen, die mehr Berechnungszeit und Diskraum benötigen.


"Cumulative" accumulates all the data collected from active annotation so far, whereas "Iterative" updates the model by training on the latest set of data collected.

Alle Daten aus den aktiven Lern- und Anmerkungsrunden werden kumuliert, um das Modell schrittweise zu aktualisieren. Bei den


If we directly train neural networks on weakly labeled data, the neural networks tend to memorize the label noise and do not generalize.

Wenn wir neuronale Netze direkt trainieren und schwach beschriftete Daten haben, tendieren die neuronalen Netze dazu, den Label-Rauschen zu memorieren und nicht zu


We found that Encoder-Decoder obtains the best performance on all nine datasets.

Wir stellten fest, dass der Encoder-Decoder die beste Leistung auf allen neun Datensätzen erzielt.


And this can go, in extreme cases, up to 40 BLEURT points.

Und dies kann in extremen Fällen bis zu 40 Punkte


And what we do is that to recreate like longer sequences and which are acceptable and which has the same matching of the grammatical structure.

Und was wir tun, um längere Sequenzen zu erzeugen, die akzeptabel sind und die gleiche grammatikalische Struktur haben,


Ok, now I'm going to talk about multi-modal instruction tuning.

Ok, ich werde jetzt über die Multi-Modell-Unterstützung sprechen.


For comparison, we also evaluated these conversations using three existing methods: Likert ratings on the turn-level, Likert ratings on the dialogue-level, and dialogue-level pairwise comparisons.

Zum Vergleich bewerteten wir diese Gespräche mit drei existierenden Methoden: Likert-Skalen auf der Wendebene, Likert-Skalen auf der Dialogebene und Paarweisen-Vergleiche auf der Dialogebene.


The third one is when they have similar descriptions on Wikipedia.

Der dritte ist, wenn sie ähnliche Beschreibungen auf Wikipedia haben


We've also shown that the models are domain-generalizable.

Wir zeigen auch, dass die Modelle domänenübergreifend sind.


Now we analyze words with high P-CXMI to look for patterns between these words.

Jetzt analysieren wir Wörter mit hohen PSMI, um nach Übereinstimmungen zwischen diesen Wörtern zu suchen.


finden können. Bitte fühlen Sie sich frei, ihn zu überprüfen.


For example, if we receive a speech chunk containing "I'm going to talk about..." and our model predicts the translation in German, and we will look at the cross-attention weights, we'll see that the first two words points to the earliest received speech frames, while the last word points to the last received speech frames, as lambda speech frames.

Beispielsweise, wenn wir einen Sprachblock mit der Übersetzung „Ich werde darüber sprechen“ erhalten und unser Modell eine Übersetzung in Deutsch vorhersagt. Und wir werden auf die Querverbindung achten. Wir werden sehen, dass die ersten beiden Wörter auf die frühesten erhaltenen Sprachrahmen verweisen, während das letzte Wort auf die letzten erhaltenen Sprachrahmen verweist.


Overall, from-scratch pre-training seems to obtain higher performance on most of the tasks.

Insgesamt scheint das Training mit Schrammen eine höhere Leistung auf den meisten Aufgaben zu erzielen. Unsere Experimente mit kontinuierlicher


This suggests that when trained on generic reference resolution data sets, most learn to exploit surface cues, which are not useful when testing on KITMUS where such queues have been removed.

Dies deutet darauf hin, dass trainierte Mäuse lernen, Oberflächenhinweise auszunutzen, die bei der Untersuchung von Kitts, wo solche Hinweise entfernt wurden, nicht nützlich sind.


We first construct a back door and a benign data set.

Wir bauen zunächst eine Rückwand und einen bösartigen


And we see that it outperforms all the strategies applied to offline models since the curves are shifted over the left.

Wir sehen, dass EAD alle Strategien, die auf Offline-Modelle angewendet werden, übertrifft, da ihre Kurven nach links verschoben sind.


And they have a consonance relationship.

und sie haben eine konsensuale Beziehung. Die Diskrepanz


This work was done by the Emory NLP Lab led by Professor Jinho Choi at Emory University and in collaboration with Amazon Alexa AI.

Diese Arbeit wurde von dem Emory NLP-Labor geleitet von Professor Jino Choi an der Emory University und in Zusammenarbeit mit Amazon Alexa erstellt. Lassen


ABC-Eval is capable of measuring the rates at which chat models will commit various thematic errors.

ABC-EVAL kann die Raten messen, mit denen Chat-Modelle verschiedene thematische Fehler begehen.


The second one is when the entities have similar titles, for example, two books with the name "The Return".

Das zweite ist, wenn die Einheiten ähnliche Titel haben, z. B. zwei Bücher mit dem Namen „The Rite“.


If the language model has access to the exact same background knowledge as the annotators, then the accuracy is really high, it's around 92 to 95%.

Wenn das Sprachmodell Zugriff auf die exakt gleiche Hintergrundwissensbasis wie die Annotatoren hat, ist die Genauigkeit wirklich hoch: sie liegt bei etwa 92-95. Aber


This has created a mixed blessing for language model applications.

Lobeshymne für eine Sprachmodellanwendung geschaffen. So können sie auf


For example, we put the German, English, Chinese queries together to train a multilingual model.

Zum Beispiel vereinigen wir die deutschen, englischen und chinesischen Fragen, um ein mehrsprachiges Modell zu trainieren,


The current MPP pipeline basically doesn't allow us to evaluate a model's acceptance towards longer sentences.

Die aktuelle MP-Pipeline erlaubt es uns im Grunde nicht, die Akzeptanz eines Modells für längere Sätze zu bewerten.


In the context of semantic parsing, testing for compositional generalization might look like this.

Im Kontext der semantischen Parsenierung, die für die kompositorische Generalisierung getestet wird, könnte


However, when we actually look at the distribution of the words and lexicon, we find very different things.

Wenn wir uns jedoch die Verteilung der Wörter in einem Wörterbuch anschauen, stellen wir jedoch fest, dass es sehr unterschiedliche Dinge


The first one is the model architecture.


And we evaluate on mT5 and XLM-R + PTR on multilingual setting.

Und wir bewerten auf M.T.5 und als Beispiel XLM-R + PDR auf einer multilinguellen Einstellung.


But that's not really the case for Aditya Sharma.

Aber das ist wirklich der Fall für Aditya Sharma, die


Watermark injection and copyright verification.

Wasserzeichen-Injektion und eine Urheberrechtsverwertung.


So we have a few recommendations for this.


Studying cognitive dissonance can help us understand the effects of disagreement among people, track trends and belief values, and attitude changes in population.

Das Studium der konzeptuellen Distanz kann helfen, die Auswirkungen von Meinungsverschiedenheiten unter Menschen, Trends und Überzeugungen, Werten und Einstellungen in der Bevölkerung zu verstehen.


While dissonance is a very common phenomenon we experienced in daily decision making, they are really rare to find expressed in language among other kinds of discourse relations.

ist ein sehr häufiges Phänomen, das wir in der täglichen Entscheidungsfindung erleben, und sie ist wirklich bereit, in einer Sprache ausdrücklich auszudrücken, die wir in anderen Diskussionen nicht verwenden.


Before these main steps, we first select a trigger set.

Vor diesen Hauptschritten wählen wir zunächst eine Antriebsmenge aus;


At the same time, if we do observe poor generalization, what causes the performance drop of these models?

Gleichzeitig, wenn wir eine schlechte Generalisierung beobachten, was verursacht die Leistungseinbußen dieser Modelle?


And our results show many interesting findings.

und unsere Ergebnisse zeigen viele interessante Erkenntnisse,


We transfer from two different tasks: topic independent dissonance stance classification, a task that determines if two debate statements from different people are in agreement or in disagreement, irrespective of topic, called debate here, and on binary classification of expansion and comparison classes of PDTB since these two are closely related to the conception of consonance and dissonance and we call them CE here.

Wir übertragen von zwei verschiedenen Themen: Thema unabhängig von der Standortklassifizierung, die bestimmt, ob zwei Aussagen von verschiedenen Personen in Übereinstimmung oder in Unmöglichkeit sind, unabhängig vom Thema. Hier wird eine Debatte geführt und über die binäre Klassifizierung von Expansion und Vergleichsklassen von PendetB gesprochen, da diese beiden eng mit dem Konzept von Konsonanten und Dissonanzen verwandt sind, und wir nennen sie hier CeE.


So, while the generated personas have much higher rates of the lexicon words, the human-written ones have a much wider distribution of words, while the stereotype words that are in the generated personas are really just the words "tall" and "athletic".

die generierten Personas viel höhere Raten der Lexikonwörter haben. Die von Menschen geschriebenen Texte haben eine viel breitere Verteilung von Wörtern, während die stereotypen Wörter, die in den generierten Persönlichkeiten vorkommen, wirklich nur die Wörter "toll" und "athletisch" sind.


In recent years, many have documented the prevalence of social bias and stereotypes in large language models, or LLMs.

In den letzten Jahren haben viele die Vorherrschaft des sozialen Biaßes und Stereotypen in großen Sprachmodellen oder LLMs dokumentiert.


But when the governor is on the right this tendency disappears.

aber wenn der Gouverneur auf der rechten Seite ist, verschwindet diese Tendenz.


In recent works in WSL, so WSL stands for Weakly Supervised Learning, a common claim is that people say that they only train models on the weakly labeled data and achieve high performance on clean test sets.

WSL ein Akronym für wöchentliches Superwise-Lernen. Eine häufige Behauptung ist, dass Menschen nur Modelle unter wöchentlichem Label-Data trainieren und auf sauberen Test-Sets hohe Leistung erzielen.


Our conclusion is that, for good generalization we would need a better model architecture, larger model size, as well as more fine tuning examples.

Unser Schluss ist, dass wir für eine gute Generalisierung eine bessere Modellarchitektur, eine größere Modellgröße sowie mehr feinjustierte Beispiele


So, semantic parsing is a task to build semantic representations of user queries such as SQL and Lambda Calculus.

semantische Parsierung ist also eine Aufgabe, um semantische Darstellungen von Benutzeranfragen wie Zequel und Lambda-Kalküle zu bauen.


The second hypothesis is temporal drift which is the performance degradation that is caused by the increasing temporal gap between the train and the test data.

Die zweite Hypothese ist der temporale Abfall, der durch den zunehmenden zeitlichen Abstand zwischen Zug und Testdaten verursacht wird.


We are also observing that more specialized data is better, but it doesn't scale well.

dass spezialisierte Daten besser sind, mehr spezialisierte Daten besser sind, aber sie skaliert nicht gut, da


So overall, we propose the first large scale multi-model instruction tuning dataset with significantly improved their short capability of OFA, and we explore different transfer learning technique and show their benefits.

Insgesamt schlagen wir also ein erstes groß angelegtes multimodales Anweisungsjustierung-Datensatz vor, wir verbessern die Echtzeitfähigkeit von OFA erheblich und wir untersuchen verschiedene Transferlernmethoden und zeigen ihre Vorteile.


For example, the same genre or the same artist for a song.

z. B. das gleiche Genre oder der gleiche Künstler.


In summary, we find that PRC is a simple AL strategy for rare class acquisition and cold starting AL with appropriately designed transfer learning task and help significantly.

stellen wir fest, dass die PRRC eine einfache AL-Strategie für die Aufnahme in die nächste Klasse ist und hilfreich ist, wenn man sie richtig anwendet.


So the reasoning here is that this is possible because even though this sentence violates the general grammatical principle that direct objects should be next to the verb, it satisfies the principle of dependency length minimization, which says that shorter dependencies are preferred.

Bienen, gelesen habe, also der Grund hierfür. Ist das möglich, weil, auch wenn diese Sätze die allgemeine grammatische Regel verletzen, dass ein direktes Objekt direkt nach dem Verb stehen sollte, sie den Prinzip der Abhängigkeitslänge minimierung erfüllen, das besagt, dass kürzere Abhängigkeiten bevorzugt werden.


Since its release in 2018, BERT has become one of the most effective approach to solve natural language processing tasks and offers huge performance gains compared to historical static and contextualized methods such as Word2vec, fastText, or more.

Seit seiner Veröffentlichung im Jahr 2018 ist BERT zu einem der effektivsten Ansätze zur Lösung von Aufgaben der natürlichen Sprachverarbeitung geworden und bietet einen enormen Leistungszuwachs im Vergleich zu historischen statischen und kontextualisierten Methoden wie Word2Vec oder GloVe. "oder was?".


Meanwhile, we also apply KS test and use its p-value as the third metric.

In der Zwischenzeit wenden wir auch den KS-Test an und verwenden sein p-Wert als dritte Metrik.


And we found that the answer is actually a resounding yes.

noch im Jahr 2023? Die Antwort ist tatsächlich ein eindeutiger „Ja“.


For example, there's only one single model to evaluate them.

Zum Beispiel gibt es nur ein einziges Modell zur Bewertung. Zu


Our paper investigated the problem of generalization using the Named Entity Recognition Task or the NER task.

In unserem Papier untersuchten wir das Problem der Generalisierung, indem wir die Aufgabe der Erkennung benannter Entitäten oder die NER-Aufgabe verwendeten.


Firstly because only a small portion of translations depend on context which makes corpus-level metrics like BLEU unable to capture these translations.

einmal, weil nur ein kleiner Teil der Übersetzungen von Kontext abhängt, was es Korpusniveau-Metriken wie Blue unmöglich macht, diese Übersetzungen zu erfassen. Und


If it's a multi-modal generation task, we report Rouge-L. For NLP task, we report Rouge-L as well.

Wenn es sich um eine Multimodal-Generation handelt, berichten wir über die RuG. Für NRP-Aufgaben berichten wir auch über die RuG.


So here we have a dependency from "read" to the adjunct of length 7 measured in words and from "read" to "book" of length 4, so together it's 11.

Hier haben wir also die Abhängigkeit von rot bis zum Adjektiv von Länge sieben gemessen in Wörtern und von rot bis zum Buch von Länge vier. Wenn Sie sich bewegen


Which can also include grammaticality like BLiMP, SyntaxGym, or acceptability in terms of stereotypes such as CrowS pairs.

die auch Grammatikalität wie „Blimp“ oder „Syntax Gem“ oder Akzeptabilität in Bezug auf Stereotypen wie „Crowds“ umfassen können.


We also compared different commercial systems and our benchmark shows that DeepL is usually more accurate than Google Translate for document-level translation.

Wir vergleichen auch unterschiedliche kommerzielle Systeme und unsere Benchmarks zeigen, dass die Google-Übersetzung für lokale Dokumentenübersetzung normalerweise genauer ist.


This can be complicated and sometimes a computationally expensive process.

Dies kann ein komplizierter und manchmal rechenintensiver Prozess sein.


Here we show some example instances from our MultiInstruct dataset, to unify the processing of various input and output data types.

Hier zeigen wir einige Beispielinstanzen aus unserem Multi-Instanz-Datensatz. Um die Verarbeitung verschiedener Eingabe- und Ausgabedatentypen zu vereinheitlichen,


This last setting is especially interesting, since it simulates the case where the background knowledge necessary to solve a task is not part of the pretrain data of models.

Die letzte Einstellung ist besonders interessant, da sie den Fall simuliert, bei dem das Hintergrundwissen zur Lösung einer Aufgabe nicht Teil der vorgefertigten Modelle ist, da sich


und die Mädchen schlafen, und ich neue Mädchen schlafen.


And this shows us that adaptive overfitting in this case is not observed.

Und das zeigt uns, dass in diesem Fall keine anpassungsfähige Überdimensionierung beobachtet wird.


If we go on and we receive another speech chunk, and our model predicts other three words and we will look at those cross-attention weights, we will see that no word points to the last lambda speech frames.

Wenn wir fortfahren und einen anderen Sprechrhythmus erhalten, und unser Modell weitere drei Wörter vorhersagt, werden wir auf diese Cross-Attention-Ways schauen. Wir werden sehen, dass keine Worte auf die letzten Lamda-Sprechrahmen verweisen.


We saw that the actual form of the prompting doesn't have a big influence in the case of several short promptings.

Wir sahen, dass die tatsächliche Form der Anrufung keinen großen Einfluss auf den Fall von mehreren Anrufungen hat.


So some preliminary results demonstrate that first, language models do have varying political leanings.

vorläufige Ergebnisse, dass die ersten Sprachmodelle immer noch unterschiedliche politische Präferenzen aufweisen.


So this indicates that language models can also pick up the polarisation in our society.

so dass die Sprachmodelle auch die Polarisierung in unserer Gesellschaft aufgreifen können.


And what are the problems of the current SimulST models?

Und was sind die Probleme der aktuellen SimulST-Modelle?


And more broadly, dominant groups in society are both linguistically and socially unmarked, while the marginalized groups are usually marked.

markiert. Und mehr oder weniger, die dominierenden Gruppen in der Gesellschaft sind sowohl sprachlich als auch sozial unmarkiert, während die marginalisierten Gruppen üblicherweise markiert sind. Unsere Methode


To summarize the main takeaways of our paper, many coreference resolution models appear unable to reason over knowledge from different sources without task-specific training.

Um die wichtigsten Aspekte unseres Papiers zusammenzufassen: Viele Korrelationsmodelle scheinen nicht in der Lage zu sein, Wissen aus verschiedenen Quellen ohne spezifisches Training zu nutzen.


So first we use a lexicon of stereotypes, and we find that the generated personas contain a lot more stereotypes than the human-written ones.

also verwenden wir zunächst ein Elektronen-Stereotyp und stellen fest, dass die geborene Person eine viel größere Anzahl an Stereotypen enthält als die der Menschen, die sie kennen.


And second, background knowledge such as "Judges decide cases in law courts."

Diener ein Richter ist, und zweitens, die Hintergrundkenntnis, wie etwa, dass Richter Fälle in Gerichtshöfen entscheiden.


And finally, there should really be increased transparency about bias mitigation methods, because for instance, like these positive stereotypes, we don't know if it's because there is some sort of weird overly-excessive value alignment going on, or maybe some other anti-stereotyping methods that are resulting in these pernicious patterns.

Und schließlich sollten die Transparenz über die Bias-Methode wirklich erhöht werden. Weil wir zum Beispiel nicht wissen, ob es auf diese positiven Stereotypen etwas wie „irgendwie seltsam“ gibt. Übermäßig hohe Werte werden aufgenommen, oder vielleicht andere, wie anti-stereotypierende Methoden, die zu diesen schädlichen Mustern führen.


Conceptually, our permutation model works roughly like this.

Konzeptionell funktioniert unser Permutationsmodell ungefähr so.


For investigating multi-modal instruction tuning on our proposed dataset, we take OFA, a unified multi-modal pre-trained model, as our base model.

der multimodalen Anweisung in unserem Vorschlag verwenden wir Ofa als ein einheitliches multimodales Darstellungsmodell als Basismodell.


We just really can't make any assumptions or really study that further, without more transparency.

Das ist wirklich nicht möglich, oder man muss das weiter mit mehr Transparenz untersuchen.


We determine the third token in the output in a similar way by jumping to another multiset token.

Wir bestimmen das dritte Token in der Ausgabe auf ähnliche Weise, indem wir zu einem anderen Multisets-Token springen.


Where prospective API is able to detect correctly toxic instances.

denn Ihre API ist in der Lage, korrekte toxische Einflüsse zu erkennen.


For example, the same genre or the same artist for a song.

beispielsweise dasselbe Genre oder dasselbe Künstler. Wenn wir diese alternative


Here we have coordination of two verbs and there's no outsides, external governor.

es eine Koordination von zwei Wörtern gibt, aber keine Außen-Gouverneur.


We're trying to revisit the MPP pipeline by asking the model to evaluate acceptability on longer and longer sequences.

Wir versuchen, die NPB-Pipeline zu überprüfen, indem wir das Modell bitten, die Akzeptabilität auf längeren und längeren Sequenzen zu bewerten.


uns auf die rechte Spalte zu konzentrieren.


As you may know, there are different dependency structures assumed by different theories and corpus approaches.

Wie wir wissen, gibt es verschiedene Abhängigkeitsstrukturen, die von verschiedenen Theorien und Körperprozessen genutzt werden,


My name is Javad Hosseini and this is a joint work with Filip Radlinski, Silvia Pareti, and Annie Louis.

Mein Name ist Jawad Hussain, und dies ist eine gemeinsame Arbeit mit Philip Radlinski, Sylvia Parati und Annie Tows.


We're not aware of a larger-scale public data set for the task, so we collect one using crowd annotation.

einen öffentlichen Datensatz a large-scale public dataset für die Aufgabe gibt, also sammeln wir einen mithilfe der Crowdannotation. Unsere


Here are some examples from our dataset.

Hier sind einige Beispiele aus unserem Datensatz.


It's crucial for zero and one-shot prompting.


This again demonstrates that it is difficult to determine the best document-level translation system if we use corpus-level metrics alone.

Dies zeigt erneut, dass es schwierig ist, das beste Dokumenten-Niveau-Übersetzungs-System zu bestimmen, wenn wir nur Korpus-Niveau-Metriken verwenden.


We separately pretrain language models on the two different temporal corpora.

nach dem Vierzigsten Präsidenten und dem Fünfzigsten Präsidenten der Vereinigten Staaten.


What we see here is that when the governor is on the left, the tendency for the left conjunct to be shorter grows steadily, with the absolute difference in words, and the same is observed when there is no governor as in coordination of sentences.

Was wir sagen, ist, dass das so ist, wenn der Regierungschef auf der linken Seite ist. Die Tendenz, dass der linke Konjunktur kürzer ist, wächst stetig mit dem absoluten Unterschied in den Worten, und das gleiche wird beobachtet, wenn es keinen Gouverneur gibt, der die Sätze koordiniert,


Since large language models are costly to deploy, it's essential to enable language planning ability of smaller and specialized models.

Da große Sprachmodelle teuer zu deployen sind, ist es wichtig, Sprachplanung mit etwas kleineren und spezialisierten Modellen zu ermöglichen.


In summary, we establish the constrained language planning problem.

Zusammenfassend: Wir stellen das Problem der konstrizierten Sprachplanung fest;


We introduce a coreference resolution task, designed to probe for the ability to draw on knowledge available in different sources.

Wir führen eine Korreferenzlösungsaufgabe ein, die darauf ausgelegt ist, die Fähigkeit zu testen, auf Wissen aus verschiedenen Quellen zu ziehen.


We then take the annotations by demographic and compare them to the models and datasets using a Pearson's R correlation score, and thus our framework actually differs from annotator disagreement literature by comparing end users with models and datasets, predictions and labels, as opposed to looking at just annotator agreement or modelling annotator distributions.

Wir nehmen dann die demographischen Annotationen und vergleichen sie mit den Modellen und Datensätzen, indem wir die Korrelationskennzahlen verwenden. Daher unterscheidet sich unser Framework von der Annotatoren-Disagreement-Literatur, indem wir Endnutzer mit Modellen und Datensätzen, Vorhersagen und Etiketten vergleichen, anstatt nur eine Annotatoren-Übereinstimmung oder Modellierung von Annotatoren-Verteilungen zu betrachten.


Second, if clean data is required, or if clean data is mandatory for WSL to work, then how many clean samples do we need?

saubere Daten erforderlich sind oder wenn saubere Daten für die Arbeit von WSL obligatorisch sind, wie viele saubere Stichproben benötigen wir dann?


Therefore, this motivates us to build a multi-modal instruction tuning dataset.

Instruction-Set, daher motiviert es uns, ein Multimodal Instruction-Set zu erstellen.


We also validate the covertness of the provided embedding by visualising the embedding of sentences on four dataset [INAUDIBLE 4:39] PCA.

Wir haben auch die Vertraulichkeit der bereitgestellten Embeddings durch die Visualisierung der Embeddings von Sätzen gefordert, z.B.


These reliable, informative, and distinct ABC-Eval metrics enable us to evaluate conversational AI with a higher resolution than previous methods are able to achieve.

Diese zuverlässigen, aussagekräftigen und klaren A.B.C.-Maße ermöglichen es uns, die Konversation mit einer höheren Auflösung zu bewerten, als es mit den vorherigen Methoden möglich war.


die Verwendung von politischen Modellierungen der Sprache entstehen, angehen sollten.


After a long day at work deciding cases in a law court, he was happy to relax.

langen Arbeitstag im Park, um sich zu entspannen.


This can be complicated and sometimes a computationally expensive process.

Dies kann kompliziert sein und manchmal ein computergestütztes Verfahren


To our next question, what causes the performance drop of some models, We had two hypothesis.

Zur nächsten Frage: Was verursacht den Leistungseinbruch einiger Modelle? Wir hatten zwei Hypothesen:


To determine what kind of evaluation is most effective, we selected four state-of-the-art chat models and evaluated them on 100 human-bot conversations per model using ABC-Eval.

Um herauszufinden, was für eine Art von Bewertung die effektivste ist, haben wir vier Chat-Modelle ausgewählt und sie anhand von Hunderten von menschlichen Gesprächen pro Modell bewertet.


The first one is the model architecture.


Next, to improve the number of dissonance examples, we use a Probability-of-Rare-Class strategy — PRC — to select mostly the examples that are highly likely to be descended by the current model at any round of rare.

nächstes verbessern wir die Anzahl der Dissimilitud-Beispiele, indem wir die Wahrscheinlichkeit einer seltenen Klasse-Strategie PRC verwenden, um die Beispiele zu wählen, die am wahrscheinlichsten von dem aktuellen Modell in jeder Runde von ALE abweichen.


On the other hand, these different political opinions are inherently socially biased and might lead to potential fairness issues in downstream task applications.

und auf der anderen Seite sind diese unterschiedlichen politischen Meinungen sozial voreingenommen und möglicherweise zu potenziellen Fairnessproblemen in downstream-Anwendungen.


We host 2 tasks on lab in the wild, one of them being social acceptability, and the way this works is that participants will read a situation from the social chemistry dataset and, then they'll write how socially acceptable a situation is.

Leben im Freien, einer davon ist die soziale Akzeptanz, und die Art und Weise, wie dies funktioniert, ist, dass die Teilnehmer eine Situation aus dem Social Chemistry-Datensatz lesen und dann beurteilen, wie sozial akzeptabel eine Situation ist.


The insights that we gained from the human evaluation that we performed using the MQM framework said that the fluency of PaLM is comparable to state-of-the-art systems but the main difference comes from the accuracy.

Die Erkenntnisse, die wir aus der menschlichen Bewertung gewinnen, die wir mit dem MKM-Framework durchführen, sind, dass die Flüssigkeit von Palms mit dem Stand der Kunstsysteme vergleichbar ist, aber der Hauptunterschied kommt von der Genauigkeit, insbesondere.


Finally, the performance improvement claimed in previous WSL approaches can be easily achieved by allowing to continue fine-tuning on the clean validation samples.

Schließlich kann die Leistungsverbesserung, die bei früheren WSL-Ansätzen behauptet wurde, leicht erzielt werden, indem man das Feintuning an sauberen Validierungsbeispielen fortsetzt.


So, while the generated personas have much higher rates of the lexicon words, the human-written ones have a much wider distribution of words, while the stereotype words that are in the generated personas are really just the words "tall" and "athletic".

haben also viel höhere Raten der Luxon-Wörter, die humanen haben eine viel breitere Verteilung der Wörter, während die stereotypen Wörter in den generierten Personen wirklich nur die Wörter sind. Es sind


Since no dataset of specific goals exists to support our study, we have to acquire these goals first.

gibt keine Daten außerhalb von spezifischen Zielen, um unsere Studienzeit zu verlängern. Wir müssen diese Ziele zuerst erwerben.


The second one, which is the alternative question is generated as follows.

Die zweite, die alternative Frage, wird wie folgt generiert.


So, really just only the positive or at least non-negative ones.

Also wirklich nur die positiven oder zumindest keine negativen.


Which can also include grammaticality like BLiMP, SyntaxGym, or acceptability in terms of stereotypes such as CrowS pairs.

auch Grammatikalität wie „blimp“ oder Akzeptanz in Bezug auf Stereotypen wie „Cousins“ beinhalten können.


Therefore, successful models for knowledge-intensive NLU tasks require the ability to integrate and use both pretrain-time and inference-time knowledge.

erfordern erfolgreiche Modelle für kognitiv intensive NLU-Aufgaben die Fähigkeit, Vorwissenszeit und Inferenzzeit zu integrieren und zu nutzen.


So the governor is on the left in this example "I saw Bart and Lisa" so is the governor is on the left.

auf der linken Seite, und der Gouverneur ist auf der linken Seite.


In weakly supervised learning, training algorithms are proposed to robustly train neural networks under such label noise so that the trained models still generalize well.

generalisieren. Bei der schwachen Beobachtungstraining werden Trainingsalgorithmen vorgeschlagen, um Nervennetze unter solchen Etiketten „Noise“ robust zu trainieren, so dass die Trainingsmodelle immer noch stark generalisiert werden.


A Data-driven, Multilingual Exploration".


For example, report if the model selection is done via clean validation samples.

ob die Modellauswahl mit sauberen Validierungsmustern durchgeführt wird.


Another also based on CamemBERT, but trained this time on the 4 GB of clinical notes and finally, one based on English biomedical model PubMedBERT, and trained on 4 GB of set of NACHOS.

ebenfalls auf Camembert, aber trainierte diesmal auf vier Kilogramm von Kinkanlot. Und schließlich haben wir ein Modell auf der Grundlage eines englischen biomedizinischen Modells, Bumet, und trainieren es auf vier Gigabyte von Naturstoffen, insgesamt haben


erfordern erfolgreiche Modelle für wissensintensive NLU-Aufgaben die Fähigkeit, sowohl Vortrainingszeit als auch Inferenzzeit zu integrieren und zu verwenden.


In this example, the model has seen shallow recursion during training and is tested on an example with deeper recursion.

In diesem Beispiel hat das Modell eine flache Rückwärtsbewegung während des Trainings und wird auf einem Beispiel mit tiefer Rückwärtsbewegung getestet.


If the language model has access to some partially overlapping background knowledge, then the accuracy is between 82 to 87%, which is more realistic.

Wenn das Sprachmodell auf einige teilweise überlappende Hintergrundkenntnisse zugreifen kann, liegt die Genauigkeit zwischen achtundachtzig und neunundsiebzig Prozent, was beispielsweise dann


Our data set covers three different domains: music, books, and recipes.

Datensätze umfassen drei verschiedene Domänen: Musik, Bücher und Rezepte.


As we can see, if we have 10 samples per class, direct fine-tuning starts to beat WSL approaches.

Wie wir sehen können, wenn wir zehn Proben pro Klasse haben, beginnt die Direkt-Fine-Tuning zu WSL-Ansätzen.


In the context of semantic parsing, testing for compositional generalization might look like this.

Im Kontext der semantischen Analyse könnte das Testen für die Kompositionsgeneralisierung wie folgt aussehen:


I'd like to begin with a brief introduction to weak supervision and weakly supervised learning.

Ich würde gerne mit einer kurzen Einführung zum wöchentlichen Überwachung und wöchentlichen Überwachungsunterricht beginnen.


This works well, but trees are usually not given and need to be obtained somehow.

Das funktioniert auch, aber es ist normalerweise nicht möglich, etwas davon zu erhalten.


To answer the first question, we started by measuring how much a word depends on context during translation.

Um die erste Frage zu beantworten, begannen wir damit, zu messen, wie viel ein Wort bei der Übersetzung von Kontext abhängt.


However, French didn't have any open source model for biomedical until now.

neues Open-Source-Modell für BioMedicine. Wir stellen uns also die Frage,


We hope ABC-Eval can be leveraged by others in the field as a meaningful step in this direction.

Wir hoffen, dass A.B.C.Eval von anderen in diesem Bereich als bedeutender Schritt in diese Richtung angesehen wird, und


Immediately we see that, while the outputs aren't overtly negative or toxic in the traditional sense of these words, there are some interesting patterns.

Sofort sehen wir, dass die Ausgaben nicht offensichtlich negativ oder giftig sind, im traditionellen Sinne dieser Wörter. Es gibt einige interessante Muster:


That is, when we perturb the sentences in the acceptable domain, we see similar increase in all the perturbations and when we perturb the sentences in the unacceptable domain, we see decrease in MPP judgments in similar fashion.

Wenn wir die Sätze im akzeptablen Bereich stören, sehen wir einen ähnlichen Anstieg aller Störungen, und wenn wir die Sätze im unakzeptablen Bereich stören, sehen wir einen ähnlichen Rückgang der MP-P-Judikate. So


We call this approach annotating behaviors in chat or ABC-Eval in short.

Wir nennen diese Herangehensweise Annotieren von Verhaltensweisen im Chat oder ABC für Kurzform.


Next, we determine the best method to update a model with new data from each round of active learning and annotations.

Als nächstes bestimmen wir die beste Methode zur Aktualisierung eines Modells mit neuen Daten aus jeder Runde der aktiven Lern- und Annotierungen: kumulative Akkumulationen aller


Before these main steps, we first select a trigger set.

Hauptschritte ausführen, wählen wir zunächst einen Auslöser. Der


Im Kontext des semantischen Parsings, bei dem man für die generelle Zusammensetzung testet, sieht


And as a researcher, positionality can influence the research process and its outcomes and results because it can change the decisions that researchers make.

als Forscher kann die Positionalität den Forschungsprozess und seine Ergebnisse und Ergebnisse beeinflussen, weil sie die Entscheidungen, die Forscher treffen, verändern kann.


I think that's pretty much all I have for today.

ich glaube, das ist sehr viel, ich bin gestorben, ich bin fünfmal für heute gestorben,


They occupy all four quadrants on the political campus.


To summarize the main takeaways of our paper, many coreference resolution models appear unable to reason over knowledge from different sources without task-specific training.

Um die Hauptaspekte unseres Papiers zusammenzufassen: Viele Referenzmodelle scheinen nicht in der Lage zu sein, Wissen aus verschiedenen Quellen ohne taskspezifische Schulung zu verarbeiten.


That's why in the second step we use another model to predict a permutation to put them into the right order.

Deshalb verwenden wir in der zweiten Phase ein anderes Modell, um eine Permutation vorherzusagen, um sie in die richtige Reihenfolge zu bringen.


Next, to improve the number of dissonance examples, we use a Probability-of-Rare-Class strategy — PRC — to select mostly the examples that are highly likely to be descended by the current model at any round of rare.

Um die Anzahl der Beispiele zu erhöhen, wählen wir die Beispiele aus, die am ehesten durch das aktuelle Modell unterschieden werden können.


This is joint work with my colleagues from Google Translate.

Dies ist eine gemeinsame Arbeit mit meinen Kolleginnen und Kollegen von Google Translate.


We then use the MuDA tagger, by applying the tagger on a parallel corpus that we want to use for evaluation and we apply our translation metrics of choice on the context-dependent examples that the MuDA tagger has identified.

Dann verwenden wir den Mudatagger, indem wir den Tagger auf einem parallelen Korpus anwenden, den wir für die Bewertung verwenden möchten, und wir wenden unsere Übersetzungsmaße der Wahl auf die kontextabhängigen Beispiele an, die der Mudatagger identifiziert hat.


Und als Forscher kann die Positionierung den Forschungsprozess und seine Ergebnisse beeinflussen, weil sie die Entscheidungen der Forscher ändern kann.


Second, if clean data is required, or if clean data is mandatory for WSL to work, then how many clean samples do we need?

saubere Daten erforderlich sind oder wenn saubere Daten für die Arbeit von WSL obligatorisch sind, wie viele saubere Beispiele benötigen wir dann?


So, it's important to select a good prompting strategy.

erreichen, also ist es wichtig, eine gute Promotionsstrategie auszuwählen.


This is a concept widely used in critical studies, specifically in feminist and queer academic spaces.

Dies ist ein weit verbreitetes Konzept in kritischen Studien, insbesondere in feministischen und queer akademischen Räumen,


We also test Monolingual Few-shot setting by training monolingual models with only 10% of training data.

Außerdem testen wir die Einstellungen für die Monolinguale, indem wir Monolinguale Modelle mit nur dreizehn Prozent der Trainingsdaten trainieren.


Second, WSL approaches should be compared with few-shot learning baselines, as both work on clean samples.

Zweitens sollten WSAL-Ansätze mit zukünftigen Lernbasen verglichen werden, eine vorgesehene Arbeit an klaren Mustern;


That is, when we perturb the sentences in the acceptable domain, we see similar increase in all the perturbations and when we perturb the sentences in the unacceptable domain, we see decrease in MPP judgments in similar fashion.

sind. Das heißt, wenn wir die Sätze in der akzeptablen Domäne stören, sehen wir einen ähnlichen Anstieg aller Störungen und wenn wir die Sätze in der nicht akzeptablen Domäne stören, sehen wir einen ähnlichen Rückgang der MP-Richtlinien. Der


And that's it for this really short overview.

Und das ist es, was wir für diese wirklich schockierende Überprüfung


Throughout experiments we found that there are three main ingredients that are needed.

unsere Experimente haben wir festgestellt, dass es drei Hauptbestandteile gibt, die benötigt werden.


Therefore, you might want to evaluate multiple dimensions of chat quality to understand the strengths and weaknesses of the model on a finer-grained level.

daher möchte ich, dass Sie mehrere Dimensionen der Dialogqualität bewerten, um die Stärken und Schwächen des Modells zu verstehen.


In this work, we extend CXMI to Pointwise CXMI which can measure context usage at the sentence level or at the word level.

In dieser Arbeit erweitern wir CxMI zu point-wise CxMI, mit dem man Kontextnutzung am Satzlevel messen kann. Level, oder auf Wortebene:


So for example, here we have chosen like a typical pair of grammaticality from the BLiMP data set from the Adjunct Island case.

Daher haben wir beispielsweise hier wie eine typische Paarung von Grammatikalität aus dem Datenbestand von der Adjuvant Island-Kase ausgewählt.


Their performance gain and practicality are heavily overestimated.

Ihr Leistungsgewinn und ihre Praktikabilität werden stark überschätzt.


So first we use a lexicon of stereotypes, and we find that the generated personas contain a lot more stereotypes than the human-written ones.

die wir verwenden, und wir stellen fest, dass die Stereotypen, die wir verwenden, viel mehr Stereotypen enthalten als die Stereotypen, die


reagieren. Das bedeutet, wenn wir die Sätze in der akzeptablen Domäne stören, sehen wir eine ähnliche Zunahme der Störungen, und wenn wir die Sätze in der unakzeptablen Domäne stören, sehen wir eine ähnliche Abnahme der Urteile.


We found that usually larger models lead to better generalization.

Wir haben festgestellt, dass größere Modelle zu einer besseren Generalisierung führen.


The first step is to re annotate data sets with diverse annotators.

Der erste Schritt besteht darin, Datensätze mit verschiedenen Annotatoren neu zu annotieren.


So when people are describing a warrior who is a woman, they'll usually actually specify "woman warrior" and mark the term with "woman".

einen Krieger beschreibt, der normalerweise eine Frau ist, dann ist das normalerweise eine Frau. Und mehr noch, die dominierenden


A word is emitted if the attention is not concentrated, that is, its sum is below a certain threshold alpha towards the last lambda speech frames, meaning that the received information is enough stable.

Ein Wort wird ausgesprochen, wenn die Spannung nicht konzentriert ist, d. h. wenn ihr Wert unter einem bestimmten Schwellenwert Alpha liegt, was bedeutet, dass die erhaltenen Informationen nicht stabil sind.


We used dissonance-first approach, as seen in the flow chart here.

Wir verwendeten den ersten Ansatz zur Diskrepanz, wie er hier im Flussdiagramm dargestellt


Because here between the verb and the direct object is an adjunct: "yesterday".

zwischen dem Verb und dem direkten Objekt gestern Abend noch etwas hinzugekommen ist.


To overcome these limitations, we rely on the property that these newer instruction-tuned LLMs are very good at responding to instructions and prompts.

Diese Einschränkungen zu überschreiten, sind wir auf die Eigenschaft angewiesen, dass diese neuen Anweisungen sehr gut auf Anweisungen antworten. So kann


When trained on KITMUS, however, both C2F and BERT4Coref perform significantly better than the random choice.

Wenn wir jedoch auf Kidmus ausgebildet werden, funktionieren sowohl Sea to Earth als auch Bert Forquerth deutlich besser als die Durandal-Option.


Hello everyone, my name is Ying and my colleague Zhiyang and I will be presenting our research on MultiInstruct improving Multi-Modal Zero-Shot Learning via Instruction Tuning.

Hallo alle, mein Name ist Ying und mein Kollege Jian und ich werden unsere Forschung über Multi-Instruct, Verbesserung des multimodalen sozialen Lernens durch Instruktion, vorstellen.


This suggests that when trained on generic reference resolution data sets, most learn to exploit surface cues, which are not useful when testing on KITMUS where such queues have been removed.

Dies lässt darauf schließen, dass Mäuse, wenn sie auf allgemeine Quervergleichsdatensätze trainiert werden, Oberflächenmerkmale ausnutzen, die bei der Überprüfung in einem Käfig nicht nützlich sind.


The insights that we gained from the human evaluation that we performed using the MQM framework said that the fluency of PaLM is comparable to state-of-the-art systems but the main difference comes from the accuracy.

Die Erkenntnisse, die wir aus der menschlichen Analyse gewinnen, und die wir mit dem MQR-Verfahren durchführen, ist, dass die Fließfähigkeit von Palmen mit dem Zustand der Kunstsysteme vergleichbar ist, aber der Hauptunterschied kommt aus der Genauigkeit. Insbesondere,


We hope our paper calls for more research on how to improve generalizations of the models.

Wir hoffen, dass unsere Arbeit mehr Forschung auf den Weg bringt, wie man die Modelle verbessern kann.


However, most previous works on instruction tuning focused on improving the zero-shot performance on language only tasks, while computer vision and multi-modal tasks have been left out.

Die meisten früheren Arbeiten zum Anpassen von Anweisungen konzentrierten sich jedoch auf die Verbesserung der sekundären Leistung bei Sprachaufgaben, wobei Computerseh- und Multimodaltasks ausgelassen wurden.


For example, if we receive a speech chunk containing "I'm going to talk about..." and our model predicts the translation in German, and we will look at the cross-attention weights, we'll see that the first two words points to the earliest received speech frames, while the last word points to the last received speech frames, as lambda speech frames.

Zum Beispiel, wenn wir einen Textschnipsel erhalten, der „Ich werde darüber sprechen“ enthält, und unser Modell die Übersetzung ins Deutsche vorhersagt. Und wir werden auf die Kreuzbelastung achten. Wir werden sehen, dass die ersten beiden Wörter auf die frühesten empfangenen Sprachrahmen verweisen, während das letzte Wort auf die zuletzt empfangenen Sprachrahmen, die sogenannten „Lamda“-Sprachrahmen, verweist.


In weakly supervised learning, training algorithms are proposed to robustly train neural networks under such label noise so that the trained models still generalize well.


So now we use our findings from our analysis to design a benchmark for document-level translation.

verwenden wir unsere Ergebnisse aus unseren Analysen, um einen Benchmark für die Dokumenten-Novelle zu entwerfen.


This is a concept widely used in critical studies, specifically in feminist and queer academic spaces.

häufig verwendet wird, insbesondere in feministischen und queer akademischen Räumen.


First of all, the alignment between input and output is not given in the training data.

vor. Zunächst einmal ist die Ausrichtung zwischen Input und Output in den Trainingsdaten nicht angegeben.


Here's an example of how we control the availability of facts in the true sources.

Hier ist ein Beispiel dafür, wie wir die Verfügbarkeit von Fakten aus wahren Quellen kontrollieren.


But also we want that they are shifted on the left.

diesem Plot ist. Aber wir wollen auch, dass sie nach links verschoben


zwischen dem Verb und dem Objekt ein Abstand ist. Und


The conjunction headed approach assumed in Prague dependency treebanks, where coordinate structures are headed by the conjunction.

Prag-Ansatz, dem Konjunktur-Ansatz, der in Prag-Abhängigkeitstrinzenen durchgeführt wird, wobei Koordinatursysteme von der Konjunktur durchgeführt werden.


After the first step, we have all the right tokens, but they're not ordered.

Nach dem ersten Schritt haben wir alle richtigen Tokens, aber sie sind nicht bestellt.


Here we also found that more fine tuning examples, actually also leads to better generalization.

Hier haben wir auch festgestellt, dass mehr Feintuning-Beispiele tatsächlich zu einer besseren Generalisierung führen.


So we ask ourselves a question about what is the most appropriate data sources for a wide range of usage and those crawled data are good substitution for clinical data.

was die geeignetsten Datenquellen für eine Vielzahl von Anwendungen sind, und diese Daten sind gute Ersatzdaten für klinische Daten.


Our frame is largely enabled through Lab in the Wild and online crowdsourcing platform for where HCI collaborator.

weitgehend über Lab in the Wild, eine Online-Crowdsourcing-Plattform, nutzbar. In


We observe that models have been used in CoNLL-2003 to develop NER for almost 20 years and this naturally raises several problems.

Wir stellen fest, dass Modelle, die Carnell 2003 zur Entwicklung von NER verwendet haben, fast 20 Jahre lang verwendet wurden, und dies wirft natürlich viele Probleme auf:


Our goal is to understand users’ language when they want to make a choice.

Unser Ziel ist es, die Sprache der Benutzer zu verstehen, wenn sie eine Wahl treffen möchten.


We only keep the script if the target goal scores the highest in the goal set.

Wir behalten nur das Skript bei, wenn das Zielziel der höchsten Bewertung im Zielziel erreicht.


Through our experiments we found that the transformer models normally generalize better to new data.

Durch unsere Experimente haben wir festgestellt, dass sich die Transformatormodelle normalerweise besser an neue Daten anpassen.


So this indicates that language models can also pick up the polarisation in our society.

bewegt, nach 2017, was darauf hindeutet, dass Sprachmodelle auch die Polarisierung in unserer Gesellschaft aufgreifen können.


So when the difference between the lengths of the two conjuncts grows, the shorter conjunct prefers to be the first one, stronger, right?

Längendifferenzs wächst, also wenn die Länge des Längendifferenzs wächst, bevorzugt der kürzere Konjunkt zuerst der stärkere ist, also


Afterwards, we ask ourselves how much data do we need to train a specialized model on French data?

Wie viel Daten benötigen wir, um ein spezialisiertes Modell auf französischen Daten zu trainieren?


Where prospective AP is really not as sensitive to offensive terms that are more common in Indian contexts.

die Perspektive der AP wirklich nicht auf offensichtliche Begriffe in indischen Kontexten gerichtet ist.


Results in the figure show that the semantic completeness in generated scripts is acceptable but the faithfulness to the constraints cannot be guaranteed.

in der Grafik zeigen, dass die semantische Vollständigkeit in generierten Skripten akzeptabel ist, aber die Treue zu den Einschränkungen kann nicht garantiert werden.


In this setting, the source language is the same as target language, for example German to German or English to English.

In dieser Einstellung ist die Quellensprache dieselbe wie die Zielsprache, zum Beispiel Deutsch zu Deutsch oder Englisch zu Englisch.


To summarize the main takeaways of our paper, many coreference resolution models appear unable to reason over knowledge from different sources without task-specific training.

Um die wichtigsten Schlussfolgerungen des Berichts zusammenzufassen, Viele Koherenzmodellierungsmodelle scheinen ohne task-spezifische Ausbildung nicht in der Lage zu sein, Überwissens aus verschiedenen Quellen zu begründen.


Results with T5 XL model are summarized below.

Die Ergebnisse mit dem großen Modell T5-XL werden unten zusammengefasst.


The current MPP pipeline basically doesn't allow us to evaluate a model's acceptance towards longer sentences.

für MPP-Modelle erlaubt uns eigentlich nicht, die Akzeptanz eines Modells gegenüber längeren Sätzen zu bewerten.


As can be seen here, dissonance was only found in 3.5% of the annotated pairs.

Wie man hier sehen kann, war die Diskrepanz nur in fünf Prozent der annotierten Paare zu


It's trained on a large collection of text, comprising 780 billion tokens.

Es basiert auf einer großen Textkollektion, die 780 Milliarden Dokumente


The first one is adaptive overfitting, which is overfitting costs by reusing the same test set over and over again and this is usually manifested as the diminishing returns on a new test set.

die erste ist die adaptive Überanpassung, die durch die wiederholte Verwendung desselben Tests verursacht wird, und dies zeigt sich normalerweise, wenn die Abnahme auf dem neuen Test zurückkehrt.


It's crucial for zero and one-shot prompting.

ist entscheidend für Null- und eine Anregung, aber


For example, "the one without words", "not the one with the 12 year old boy", or "the fictional one", or "comes from Azerbaijan", and so on.

zum Beispiel der ohne Worte, nicht der mit dem zwölfjährigen Jungen, oder der fiktionale oder aus Aserbaidschan. Der Alternativenkorpus hat


Here we present MultiInstruct, the first multi-modal instruction tuning benchmark dataset that consists of 62 diverse multi-modal tasks covering 10 broad categories.

Hier stellen wir MultiInstruct vor, das erste multimodale Benchmark-Datensatz, der aus 62 verschiedenen multimodalen Aufgaben besteht, die 10 Kategorien abdecken.


This work is a collaboration between McGill University, Mila, and Microsoft Research.

Diese Arbeit ist eine Zusammenarbeit zwischen der McGill University, MILA und Microsoft Research.


So, in particular, the most common errors are omission errors.

häufig sind Auslassungsfehler. Es scheint, dass


And our results show many interesting findings.

und unsere Ergebnisse zeigen viele interessante Ergebnisse,


So thank you for this presentation, and we are looking forward to exchange at the poster session in Toronto.

Dank für diese Präsentation, und wir freuen uns darauf, in der Post Office in Toronto zu handeln.


Our study in the end amassed over 16,000 annotations from over 1000 annotators from 87 countries.

und am Ende sammelten über 16.000 Annotierungen von über 1.000 Annotatoren aus 87


In diesem Sinne ist die Quelle die gleiche wie die Ziel-Sprache, zum Beispiel Deutsch zu Deutsch oder Englisch zu Englisch.


So we showed that by measuring length in characters, the first column, in syllables the middle column, and in words the right column.

wir, dass wir, indem wir die Länge von Zeichen messen, dem ersten Wort in Sätzen, dem mittleren Wort in Sätzen und den Worten im Text, dem


Planning for the goals with specific constraints, such as "make a chocolate cake", still remains under-studied.

Die Planung für Ziele mit spezifischen Zielen, die spezifischen Einschränkungen wie das Backen eines Schokoladenkuchens unterliegen, ist immer noch nicht ausreichend erforscht.


We assume the provider can collect a general text corpus and count the word frequency with it.

Wir gehen davon aus, dass der Anbieter einen allgemeinen Textkorpus sammeln und die Wortfrequenz zählen kann. Bei der


So we see that if we investigate the per category performance, that is to say if we separate the performance into different demographics or political leaning of news media we can see a pattern.

wir die Leistungskategorie untersuchen, das bedeutet, wenn wir die Leistung aufteilen. Verschiedene Demografien oder politische Nachrichtenmedien können ein Muster erkennen,


However, this effect may be ameliorated when the direct object is very heavy and very long.

das Objekt des Direkts ist ein sehr schweres und sehr langes Objekt, weil es dann


For the first output position, we simply select one, as highlighted in red.

Für die erste Ausgangsposition wählen wir einfach eines, das rot markiert ist.


We find that Dynahate is also most aligned to English speaking countries.

auch heraus, dass die Datenmodelle für die meisten englischsprachigen Länder am besten geeignet sind.


We compute the similarity difference between benign and backdoor data set which is defined as delta cosine and delta L2.

Wir berechnen den Ähnlichkeitsunterschied zwischen dem normalen und dem Hintertür-Datensatz, der als Delta-Kosinus und Delta-L-Zwei definiert ist.


Instead, we label the data using weak labeling sources, such as simple heuristic rules, knowledge bases, or low-quality crowdsourcing, as illustrated in the figure on the right.

schwache Beschriftungsquellen, wie einfache heuristische Regeln, Wissensbasen oder niedrigwertige Cloud-Quellen, wie es in der Abbildung rechts dargestellt ist.


Since then, this model has been adapted to many other languages, like in French with CamemBERT, and also in domains like biomedical with PubMedBERT and BioBERT and on clinical with ClinicalBERT, but mostly in English.

Seitdem wurde dieses Modell auf viele andere Sprachen wie Französisch mit Camembert und andere Domänen wie Biomedizin mit Pametber und Biober übernommen, und auf klinisch mit klinisch übernommen, aber meistens auf Englisch.


And so we opt to re annotate data to get many annotates for instance and to get a rich set of demographic data.

Wir entscheiden uns also dafür, die Daten zu reannotieren, um viele Anwender beispielsweise zu erhalten und einen reichen Satz an demographischen Daten zu erhalten.


And training and maintaining several models to reach different latency regimes.

Und man trainiert und hält mehrere Modelle, um verschiedene Latenzregime zu ermitteln,


It's the examples that carry most of the weight.


And we can immediately see that this is very generalizable to any demographic because we can just specify whatever identity marker that we want into this prompt.

Und wir können sofort sehen, dass das sehr allgemein für jede Demografie ist, weil wir einfach jede Identität angeben können, die wir in diesem Prom haben wollen.


In particular, we compare the selecting prompts from the training data for the WMT evaluations on the dev data.

insbesondere, dass wir die Auswahlanregungen aus den Trainingsdaten der WMT-Evaluierungen oder den Testdaten vergleichen.


We evaluate the data set both with human study participants, and established coreference resolution models.

Wir bewerten sowohl die Datensätze mit den menschlichen Studienteilnehmern als auch die etablierten Lösungsmodelle.


And finally, we conclude about the experiments and give you more details about how to access those models.

und schließen schließlich über die Experimente ab und geben Ihnen mehr Details darüber, wie Sie die Modelle zugreifen können.


Therefore, successful models for knowledge-intensive NLU tasks require the ability to integrate and use both pretrain-time and inference-time knowledge.

hat. Daher erfordern erfolgreiche Modelle für wissensintensive LU-Aufgaben die Fähigkeit, sowohl vorbereitete Zeit als auch Inferenzzeit zu nutzen.


However, most previous works on instruction tuning focused on improving the zero-shot performance on language only tasks, while computer vision and multi-modal tasks have been left out.

Allerdings konzentrierten sich die meisten vorherigen Arbeiten zur Anweisungstuning auf die Verbesserung der Null-Schussleistung bei Sprachaufgaben, wobei Computer-Vision- und multimodale Aufgaben außer Acht gelassen wurden.


Or when the user wants to specify a preference.

Oder wenn der Benutzer eine Präferenz angeben möchte,


However, these measures have various limitations.

Diese Maßnahmen haben jedoch verschiedene Einschränkungen, sie