Ética en PLN: desvelando estereotipos de género en modelos de lenguaje

Los recientes modelos del lenguaje, como GPT-4 o LLaMa, están demostrando capacidades asombrosas en la generación del lenguaje creativo o en la traducción de idiomas. Sin embargo, suelen heredar sesgos presentes en los datos que se usan para su entrenamiento. Un sesgo notable es el relacionado con estereotipos de género, como la percepción errónea de que las mujeres son inherentemente más emocionales. En esta charla hablaremos sobre los esfuerzos por desvelar y comprender este tipo de sesgos y desvelaremos los estereotipos emocionales de género que estos modelos perpetúan. También discutiremos las implicaciones éticas asociadas y los esfuerzos que se están realizando para mitigar este tipo de sesgos en los modelos. Finalmente, responderemos a la siguiente pregunta: ¿Son estos modelos un reflejo de nuestra sociedad?