A intelixencia artificial e os seus nesgos de xénero, a debate na Coruña con especialistas en igualdade e tecnoloxía
A intelixencia artificial será este venres, 2 de outubro, o eixo dunha xornada na Universidade da Coruña que poñerá o foco nos nesgos de xénero presentes nos sistemas de IA e nas posibilidades de utilizar esta tecnoloxía desde unha perspectiva de igualdade.
As xornadas, tituladas 'IA, nesgos de xénero. Oportunidades para a igualdade', desenvolveranse entre as 10.00 e as 14.30 horas na Casa do Estudantado e reunirá especialistas de diferentes ámbitos para analizar como os nesgos poden aparecer tanto nos datos cos que se adestran os sistemas como nas decisións relacionadas co seu deseño e aplicación.
A iniciativa está organizada polas investigadoras Teresa Piñeiro, do Grupo Cidadanía Dixital (DIGI), e Laura Morán, do Laboratorio de Investigación e Desenvolvemento en Intelixencia Artificial do CITIC. Ambas forman parte tamén do Centro de Estudos de Xénero e Feministas da Universidade da Coruña.
Como a IA pode reproducir os nesgos das persoas
Un dos primeiros focos da xornada estará na relación entre os nesgos humanos e os sistemas de intelixencia artificial. Helena Matute, da Universidade de Deusto, analizará como estas tecnoloxías poden incorporar os nesgos existentes na sociedade e, á súa vez, transmitilos ás persoas que interactúan con elas.
A súa intervención abordará tamén a capacidade da IA para influír nas decisións humanas e amplificar determinados prexuízos.
Pola súa banda, Eurídice Cabañes afondará nas bases culturais e sociais sobre as que se desenvolven as tecnoloxías actuais. A investigadora proporá revisar determinados modelos de deseño tecnolóxico desde conceptos como a reciprocidade, a rexeneración e os coidados.
Saúde mental, redes sociais e detección do discurso de odio
A relación entre intelixencia artificial e saúde mental terá tamén un espazo destacado no programa. Ana Freire, da Universitat Pompeu Fabra, presentará un caso de estudo sobre o emprego de técnicas de aprendizaxe automática para identificar sinais de anorexia nerviosa nas redes sociais.
A investigación permitirá abordar un dos problemas asociados aos sistemas de IA: os nesgos poden introducirse nos propios datos, na forma na que estes son representados ou mesmo na definición do problema que se pretende solucionar. Neste contexto, a dispoñibilidade de máis datos non implica necesariamente resultados máis xustos.
A xornada tamén prestará atención á detección do discurso machista e do acoso nas redes sociais, cunha especial mirada cara ao galego e ás linguas minorizadas.
Lucía Álvarez explicará a importancia de crear ferramentas capaces de identificar directamente en galego este tipo de contidos. O desenvolvemento de corpus específicos pode permitir que os sistemas teñan en conta as particularidades da lingua e eviten a perda de información ou matices que pode producir unha tradución previa a outros idiomas.
Outro dos relatorios correrá a cargo de Paloma Piot, investigadora do CITIC, que abordará os nesgos demográficos na detección e clasificación do discurso de odio. A súa intervención analizará como a elección dun determinado perfil demográfico pode condicionar a identificación destes contidos e tamén como a IA pode utilizarse para contribuír á corrección dos nesgos detectados.
A intelixencia artificial tamén entra no sector dos seguros
O impacto da IA chegará tamén ao ámbito da contratación de seguros. Rafael Colina analizará a utilización crecente destas ferramentas nos procesos de comercialización e personalización das pólizas.
Neste campo, un dos riscos que se abordarán é que os sistemas automatizados poidan introducir diferenzas de trato entre clientes que non estean baseadas nunha xustificación obxectiva e razoable. Un dos problemas engadidos é a dificultade para identificar determinadas prácticas discriminatorias cando as decisións están condicionadas por algoritmos.
Investigación da UDC e mesa redonda
O programa completarase coa sesión 'FACTOR[IA] UDC · investigacións en 10’', na que persoas vinculadas á Facultade de Informática presentarán diferentes liñas de investigación relacionadas coa intelixencia artificial.
A xornada rematará cunha mesa redonda moderada por Laura Castro, vicerreitora de Estratexia Dixital e Intelixencia Artificial da Universidade da Coruña.
Esta será a cuarta edición das Xornadas de IA e Nesgos de Xénero, unha iniciativa que pretende poñer en contacto investigación, tecnoloxía e sociedade para abordar os retos relacionados coa igualdade no desenvolvemento e utilización da intelixencia artificial.