Spaces:
Running
Running
| <html> | |
| <head> | |
| <meta charset="utf-8" /> | |
| <meta name="viewport" content="width=device-width" /> | |
| <title>EDIA</title> | |
| <link rel="stylesheet" href="style.css" /> | |
| <script src="languages/es.js"></script> | |
| <script src="languages/en.js"></script> | |
| <script src="links/es.js"></script> | |
| <script src="links/en.js"></script> | |
| <script type="text/javascript" src="javascript/index.js"></script> | |
| </head> | |
| <body> | |
| <div id="head-flex-container"> | |
| <div id="title-container"> | |
| <h1 id="name">EDIA</h1> | |
| <h2 id="subname">Estereotipos y Discriminación en Inteligencia Artificial</h2> | |
| </div> | |
| <button id="translate" onclick="translatePage()"><img id="flag-translate" src="images/united-states.png" alt=""> English</button> | |
| </div> | |
| <div id="description-container"> | |
| <p id="intro_1">Los modelos de lenguaje y las representaciones de palabras obtenidas con aprendizaje automatizado contienen estereotipos discriminatorios. Aquí presentamos el proyecto EDIA (Estereotipos y Discriminación en Inteligencia Artificial). El objetivo de este proyecto es diseñar y evaluar una metodología que permita a comunidades de ciencias sociales y personas expertas de dominio en Latinoamérica, explorar sesgos y estereotipos discriminatorios presentes en word embeddings y modelos de lenguaje. También les permite definir el tipo de sesgo a explorar y acercarse a un enfoque interseccional desde dos dimensiones binarias de análisis (por ejemplo, <i>mujer-hombre</i> vs <i>gordo-flaco</i>).</p> | |
| <p id="intro_2">EDIA contiene diversas funciones que sirven para detectar e inspeccionar sesgos en sistemas de procesamiento de lenguaje natural basados en modelos de lenguaje o word embeddings. Contamos con modelos en español e inglés para trabajar y explorar los sesgos en diferentes idiomas a requerimiento de las personas usuarias. Cada una de las siguientes pestañas son funciones distintas que nos acercan a un aspecto particular de la problemática del sesgo y a la vez, nos permiten entender partes diferentes pero complementarias del mismo.</p> | |
| </div> | |
| <div id="main-buttons-flex-container"> | |
| <a class="button" id="hf" target="_blank" href="https://huggingface.co/spaces/vialibre/bias_tool_serv1">Pruebalo en HuggingFace🤗!</a> | |
| <a class="button" id="ccad" target="_blank" href="#">Pruebalo en CCAD!</a> | |
| <a class="button" id="tutorial" target="_blank" href="#">Tutorial de la herramienta</a> | |
| </div> | |
| <div id="cards-container"> | |
| <div class="card" id="word-bias-card"> | |
| <h3 id="word-bias-title">Sesgos en listas de palabras</h3> | |
| <div class="card-description-flex-container"> | |
| <p id="word-bias-description">Basada en una técnica para detectar sesgos en WE, esta función nos permite visualizar la distribución de palabras en un espacio 2D y con ello observar la distancia entre ellas. Entre más contextos de ocurrencia compartan, estarán más cerca, y entre menos contextos de ocurrencia compartan, estarán más lejos. Esto, generalmente, hace que las palabras con un significado parecido aparezcan cercanas. A partir de la creación de listas de palabras que nos sirven para definir campos semánticos, podremos observar sesgos y explorar palabras vecinas entre esos significados.</p> | |
| <div class="buttons-flex-container"> | |
| <a class="button demo" id="word-bias-demo" target="_blank" href="https://huggingface.co/spaces/vialibre/edia_we_es">Demo</a> | |
| <a class="button tuto" target="_blank" id="word-bias-tutorial" href="#">Tutorial: Explorar palabras y sus sesgos</a> | |
| <div class="divided-buttons-flex-container"> | |
| <a class="button manual" id="word-bias-manual-1" target="_blank" href="https://shorturl.at/cgwxJ">Manual:<br>Explorar palabras</a> | |
| <a class="button manual" id="word-bias-manual-2" target="_blank" href="https://shorturl.at/htuEI">Manual:<br>Explorar sesgos</a> | |
| </div> | |
| </div> | |
| </div> | |
| </div> | |
| <div class="card" id="phrase-bias-card"> | |
| <h3 id="phrase-bias-title">Sesgos en frases</h3> | |
| <div class="card-description-flex-container"> | |
| <p id="phrase-bias-description">Aquí desplegamos una herramienta que utiliza modelos de lenguaje para evidenciar sesgos en frases, lo que nos permite trabajar con sesgos no binarios (como mujer - hombre, femenino - masculino) y eliminar ambigüedades (producto de polisemias). A partir de oraciones en donde una contenga <i>a) estereotipo</i> y la otra <i>b) antiestereotipo</i> (ejemplo: <i>a)</i> Las parejas de <i>homosexuales</i> no deberían tener permitido casarse, <i>b)</i> Las parejas de <i>heterosexuales</i> no deberían tener permitido casarse.), buscamos definir las preferencias de un modelo de lenguaje pre-entrenado a la hora de producir lenguaje. Si el modelo no tuviera sesgo ambas tendrían el mismo nivel de preferencia, pero si el modelo estuviera sesgado, una va a tener mayor preferencia.</p> | |
| <div class="buttons-flex-container"> | |
| <a class="button demo" id="phrase-bias-demo" target="_blank" href="https://huggingface.co/spaces/vialibre/edia_lmodels_es">Demo</a> | |
| <div class="divided-buttons-flex-container"> | |
| <a class="button tuto" id="phrase-bias-tutorial-1" target="_blank" href="#">Tutorial:<br>Sesgos en frases</a> | |
| <a class="button tuto" id="phrase-bias-tutorial-2" target="_blank" href="#">Tutorial:<br>Crows-Pairs</a> | |
| </div> | |
| <div class="divided-buttons-flex-container"> | |
| <a class="button manual" id="phrase-bias-manual-1" target="_blank" href="https://shorturl.at/fkBL3">Manual:<br>Sesgos en frase</a> | |
| <a class="button manual" id="phrase-bias-manual-2" target="_blank" href="https://shorturl.at/gJLTU">Manual:<br>Crows-Pairs</a> | |
| </div> | |
| </div> | |
| </div> | |
| </div> | |
| <div class="card" id="data-bias-card"> | |
| <h3 id="data-bias-title">Datos de las palabras</h3> | |
| <div class="card-description-flex-container"> | |
| <p id="data-bias-description">Esta herramienta muestra información adicional de la palabra, como la frecuencia y el contexto de aparición dentro del corpus de entrenamiento. Sirve para explicar e interpretar comportamientos inesperados en otras pestañas producto de la polisemia o la poca frecuencia de las palabras, y a partir de esta exploración, poder realizar modificaciones pertinentes en nuestras listas de palabras y frases.</p> | |
| <div class="buttons-flex-container"> | |
| <a class="button demo" id="data-bias-demo" target="_blank" href="https://huggingface.co/spaces/vialibre/edia_datos_es">Demo</a> | |
| <a class="button tuto" target="_blank" id="data-bias-tutorial" href="#">Tutorial: Sesgo en datos</a> | |
| <a class="button manual" target="_blank" id="data-bias-manual" href="https://shorturl.at/CIVY6">Manual</a> | |
| </div> | |
| </div> | |
| </div> | |
| </div> | |
| <footer> | |
| <p id="footer-description">ACLARACIONES IMPORTANTES: Las consultas realizadas al usar este software quedan registradas automáticamente en nuestro sistema. Declaramos que la información recabada es anónima, confidencial y que el uso de la misma sólo será para fines de investigación. Para realizar las exploraciones de las dimensiones de análisis, como género, necesitamos simplificarlo a un fenómeno binario; entendemos que es una sobresimplificación, se trata de una primera aproximación a la familia de soluciones de mitigación que sabemos requiere de una mayor complejidad para tratar los fenómenos de sesgo dentro de los constructos sociales.</p> | |
| </footer> | |
| </body> | |
| </html> | |