A UDC analiza os nesgos de xénero e a discriminación na intelixencia artificial
A Universidade da Coruña (UDC) reuniu a investigadoras e especialistas de referencia para analizar os nesgos de xénero, sociais e discriminatorios presentes nos sistemas de intelixencia artificial (IA), así como os retos éticos e tecnolóxicos que presenta o seu desenvolvemento e aplicación en diferentes ámbitos da sociedade.
A xornada celebrouse na Casa do Estudantado e permitiu abordar cuestións como a reprodución de prexuízos nos algoritmos, o impacto da IA na saúde mental, a detección do discurso de odio e do machismo nas redes sociais, os modelos tecnolóxicos alternativos baseados nos coidados e os riscos de discriminación asociados ao uso destas ferramentas en sectores como o asegurador.
Durante a xornada, o reitor da UDC, Ricardo Cao, advertiu de que a intelixencia artificial non é unha tecnoloxía neutral nin allea ás desigualdades existentes na sociedade. Segundo explicou, os sistemas de IA aprenden a partir de datos xerados por persoas e institucións, polo que poden reproducir e amplificar os nesgos presentes nesa información.
Cao lembrou algúns casos coñecidos nos que algoritmos utilizados en procesos de selección de persoal, concesión de créditos ou recoñecemento facial xeraron resultados discriminatorios ao reproducir patróns históricos de desigualdade.
O reitor defendeu que a resposta a estes problemas non debe limitarse ao desenvolvemento técnico dos sistemas, senón que tamén debe incluír unha cidadanía crítica e formada no uso destas ferramentas. Neste sentido, apostou por impulsar a alfabetización dixital, promover equipos de desenvolvemento máis diversos e establecer mecanismos de supervisión e auditoría.
Os nesgos nos algoritmos
A catedrática de Psicoloxía Experimental da Universidade de Deusto Helena Matute centrou a súa intervención na capacidade da intelixencia artificial para herdar os nesgos das persoas e, ao mesmo tempo, transmitilos a través de decisións automatizadas. A investigadora explicou que estes mecanismos poden amplificar prexuízos xa existentes e influír nos procesos de toma de decisións.
Pola súa banda, Eurídice Cabañes formulou unha reflexión crítica sobre os fundamentos ideolóxicos e económicos dos actuais modelos de intelixencia artificial. A investigadora cuestionou os enfoques que, segundo sinalou, sustentan boa parte do ecosistema tecnolóxico contemporáneo e defendeu avanzar cara a modelos de “tecnoloxías da vida”, deseñados desde os contextos locais, orientados aos coidados e baseados na reciprocidade e no beneficio común.
A investigadora e docente da Universitat Pompeu Fabra Ana Freire abordou o potencial da IA para detectar e comprender problemas relacionados coa saúde mental mediante a análise de contidos publicados nas redes sociais. A partir dun estudo sobre a identificación de sinais de anorexia nerviosa, explicou como os nesgos poden introducirse tanto nos datos como na súa representación ou no propio deseño dos modelos.
Freire tamén advertiu de que dispoñer dun maior volume de información non garante necesariamente sistemas máis xustos se determinados colectivos continúan estando infrarrepresentados nos datos utilizados para adestralos.
Intelixencia artificial en galego para detectar o machismo
A profesora da Universidade da Coruña Lucía Álvarez presentou os avances realizados para desenvolver ferramentas capaces de detectar o machismo directamente en lingua galega.
A investigadora destacou a importancia de dispoñer de recursos tecnolóxicos propios para as linguas minorizadas, evitando ter que traducir previamente os contidos e preservando matices relacionados coas marcas gramaticais de xénero.
Segundo explicou, o traballo desenvolvido demostra que o galego tamén pode dispoñer de tecnoloxía específica para identificar e combater o acoso contra as mulleres nas redes sociais.
A continuación, Paloma Piot, investigadora do CITIC, analizou os nesgos demográficos presentes nos sistemas de detección e clasificación do discurso de odio. A súa intervención centrouse en como a utilización de diferentes perfís demográficos pode influír na identificación deste tipo de contidos e no papel que poden desempeñar as técnicas de intelixencia artificial para reducir as discriminacións nos procesos de clasificación automatizada.
Riscos de discriminación no sector asegurador
A xornada pechouse coa intervención de Rafael Colina, que examinou a crecente presenza da intelixencia artificial no sector asegurador.
O experto alertou de que a personalización dos contratos mediante sistemas intelixentes pode xerar diferenzas de trato entre clientes que non estean xustificadas por criterios obxectivos. Ademais, sinalou que estes mecanismos poden reforzar discriminacións preexistentes e, ao mesmo tempo, facelas máis difíciles de detectar debido á complexidade dos algoritmos empregados.
A xornada puxo así sobre a mesa a necesidade de incorporar ética, igualdade e responsabilidade social ao desenvolvemento das novas tecnoloxías, co obxectivo de avanzar cara a sistemas de intelixencia artificial que contribúan á inclusión e ao benestar da cidadanía.