La UDC analiza los sesgos de género y discriminación en la inteligencia artificial
La Universidade da Coruña (UDC) reunió a investigadoras y especialistas de referencia para analizar los sesgos de género, sociales y discriminatorios presentes en los sistemas de inteligencia artificial (IA), así como los retos éticos y tecnológicos que plantea su desarrollo y aplicación en diferentes ámbitos de la sociedad.
La jornada se celebró en la Casa do Estudantado y permitió abordar cuestiones como la reproducción de prejuicios en los algoritmos, el impacto de la IA en la salud mental, la detección del discurso de odio y del machismo en las redes sociales, los modelos tecnológicos alternativos basados en los cuidados y los riesgos de discriminación asociados al uso de estas herramientas en sectores como el asegurador.
Durante la jornada, el rector de la UDC, Ricardo Cao, advirtió de que la inteligencia artificial no es una tecnología neutral ni ajena a las desigualdades existentes en la sociedad. Según explicó, los sistemas de IA aprenden a partir de datos generados por personas e instituciones, por lo que pueden reproducir y amplificar los sesgos presentes en esa información.
Cao recordó algunos casos conocidos en los que algoritmos utilizados en procesos de selección de personal, concesión de créditos o reconocimiento facial han generado resultados discriminatorios al reproducir patrones históricos de desigualdad.
El rector defendió que la respuesta a estos problemas no debe limitarse al desarrollo técnico de los sistemas, sino que también debe incluir una ciudadanía crítica y formada en el uso de estas herramientas. En este sentido, apostó por impulsar la alfabetización digital, promover equipos de desarrollo más diversos y establecer mecanismos de supervisión y auditoría.
Los sesgos en los algoritmos
La catedrática de Psicología Experimental de la Universidad de Deusto Helena Matute centró su intervención en la capacidad de la inteligencia artificial para heredar los sesgos de las personas y, al mismo tiempo, transmitirlos a través de decisiones automatizadas. La investigadora explicó que estos mecanismos pueden amplificar prejuicios ya existentes e influir en los procesos de toma de decisiones.
Por su parte, Eurídice Cabañes planteó una reflexión crítica sobre los fundamentos ideológicos y económicos de los actuales modelos de inteligencia artificial. La investigadora cuestionó los enfoques que, según señaló, sustentan buena parte del ecosistema tecnológico contemporáneo y defendió avanzar hacia modelos de “tecnologías de la vida”, diseñados desde los contextos locales, orientados a los cuidados y basados en la reciprocidad y el beneficio común.
La investigadora y docente de la Universitat Pompeu Fabra Ana Freire abordó el potencial de la IA para detectar y comprender problemas relacionados con la salud mental mediante el análisis de contenidos publicados en redes sociales. A partir de un estudio sobre la identificación de señales de anorexia nerviosa, explicó cómo los sesgos pueden introducirse tanto en los datos como en su representación o en el propio diseño de los modelos.
Freire también advirtió de que disponer de un mayor volumen de información no garantiza necesariamente sistemas más justos si determinados colectivos continúan estando infrarrepresentados en los datos utilizados para entrenarlos.
Inteligencia artificial en gallego para detectar el machismo
La profesora de la Universidade da Coruña Lucía Álvarez presentó los avances realizados para desarrollar herramientas capaces de detectar el machismo directamente en lengua gallega.
La investigadora destacó la importancia de disponer de recursos tecnológicos propios para las lenguas minorizadas, evitando tener que traducir previamente los contenidos y preservando matices relacionados con las marcas gramaticales de género.
Según explicó, el trabajo desarrollado demuestra que el gallego también puede disponer de tecnología específica para identificar y combatir el acoso contra las mujeres en las redes sociales.
A continuación, Paloma Piot, investigadora del CITIC, analizó los sesgos demográficos presentes en los sistemas de detección y clasificación del discurso de odio. Su intervención se centró en cómo la utilización de diferentes perfiles demográficos puede influir en la identificación de este tipo de contenidos y en el papel que pueden desempeñar las técnicas de inteligencia artificial para reducir las discriminaciones en los procesos de clasificación automatizada.
Riesgos de discriminación en el sector asegurador
La jornada se cerró con la intervención de Rafael Colina, que examinó la creciente presencia de la inteligencia artificial en el sector asegurador.
El experto alertó de que la personalización de los contratos mediante sistemas inteligentes puede generar diferencias de trato entre clientes que no estén justificadas por criterios objetivos. Además, señaló que estos mecanismos pueden reforzar discriminaciones preexistentes y, al mismo tiempo, hacerlas más difíciles de detectar debido a la complejidad de los algoritmos empleados.
La jornada puso así sobre la mesa la necesidad de incorporar ética, igualdad y responsabilidad social al desarrollo de las nuevas tecnologías, con el objetivo de avanzar hacia sistemas de inteligencia artificial que contribuyan a la inclusión y al bienestar de la ciudadanía.