La inteligencia artificial y sus sesgos de género, a debate en A Coruña con especialistas en igualdad y tecnología
La inteligencia artificial será este viernes, 2 de octubre, el eje de una jornada en la Universidade da Coruña que pondrá el foco en los sesgos de género presentes en los sistemas de IA y en las posibilidades de utilizar esta tecnología desde una perspectiva de igualdad.
Las jornadas, tituladas 'IA, sesgos de género. Oportunidades para la igualdad', se desarrollarán entre las 10.00 y las 14.30 horas en la Casa del Estudiante y reunirán a especialistas de diferentes ámbitos para analizar cómo los sesgos pueden aparecer tanto en los datos con los que se entrenan los sistemas como en las decisiones relacionadas con su diseño y aplicación.
La iniciativa está organizada por las investigadoras Teresa Piñeiro, del Grupo Cidadanía Dixital (DIGI), y Laura Morán, del Laboratorio de Investigación y Desarrollo en Inteligencia Artificial del CITIC. Ambas forman parte también del Centro de Estudios de Género y Feministas de la Universidade da Coruña.
Cómo la IA puede reproducir los sesgos de las personas
Uno de los primeros focos de la jornada estará en la relación entre los sesgos humanos y los sistemas de inteligencia artificial. Helena Matute, de la Universidad de Deusto, analizará cómo estas tecnologías pueden incorporar los sesgos existentes en la sociedad y, a su vez, transmitirlos a las personas que interactúan con ellas.
Su intervención abordará también la capacidad de la IA para influir en las decisiones humanas y amplificar determinados prejuicios.
Por su parte, Eurídice Cabañes profundizará en las bases culturales y sociales sobre las que se desarrollan las tecnologías actuales. La investigadora planteará revisar determinados modelos de diseño tecnológico desde conceptos como la reciprocidad, la regeneración y los cuidados.
Salud mental, redes sociales y detección del discurso de odio
La relación entre inteligencia artificial y salud mental tendrá también un espacio destacado en el programa. Ana Freire, de la Universitat Pompeu Fabra, presentará un caso de estudio sobre el uso de técnicas de aprendizaje automático para identificar señales de anorexia nerviosa en las redes sociales.
La investigación permitirá abordar uno de los problemas asociados a los sistemas de IA: los sesgos pueden introducirse en los propios datos, en la forma en la que estos son representados o incluso en la definición del problema que se pretende solucionar. En este contexto, disponer de más datos no implica necesariamente obtener resultados más justos.
La jornada también prestará atención a la detección del discurso machista y el acoso en las redes sociales, con una especial mirada hacia el gallego y las lenguas minorizadas.
Lucía Álvarez explicará la importancia de crear herramientas capaces de identificar directamente en gallego este tipo de contenidos. El desarrollo de corpus específicos puede permitir que los sistemas tengan en cuenta las particularidades de la lengua y eviten la pérdida de información o matices que puede producir una traducción previa a otros idiomas.
Otro de los relatorios correrá a cargo de Paloma Piot, investigadora del CITIC, que abordará los sesgos demográficos en la detección y clasificación del discurso de odio. Su intervención analizará cómo la elección de un determinado perfil demográfico puede condicionar la identificación de estos contenidos y también cómo la IA puede utilizarse para contribuir a corregir los sesgos detectados.
La inteligencia artificial también entra en el sector de los seguros
El impacto de la IA llegará también al ámbito de la contratación de seguros. Rafael Colina analizará el uso creciente de estas herramientas en los procesos de comercialización y personalización de las pólizas.
En este campo, uno de los riesgos que se abordarán es que los sistemas automatizados puedan introducir diferencias de trato entre clientes que no estén basadas en una justificación objetiva y razonable. Uno de los problemas añadidos es la dificultad para identificar determinadas prácticas discriminatorias cuando las decisiones están condicionadas por algoritmos.
Investigación de la UDC y mesa redonda
El programa se completará con la sesión 'FACTOR[IA] UDC · investigaciones en 10’', en la que personas vinculadas a la Facultad de Informática presentarán diferentes líneas de investigación relacionadas con la inteligencia artificial.
La jornada terminará con una mesa redonda moderada por Laura Castro, vicerrectora de Estrategia Digital e Inteligencia Artificial de la Universidade da Coruña.
Esta será la cuarta edición de las Jornadas de IA y Sesgos de Género, una iniciativa que busca poner en contacto investigación, tecnología y sociedad para abordar los retos relacionados con la igualdad en el desarrollo y utilización de la inteligencia artificial.