Jornada ekonomistak: De aquellos sesgos, estos algoritmos. Perspectiva de Género en la Inteligencia Artificial (IA)
La Comunidad de Igualdad de Género de ekonomistak, con motivo del 8 de Marzo, Día Internacional de las Mujeres, ha organizado la jornada que lleva por título:
La Inteligencia Artificial (IA) y los algoritmos moldean la sociedad que nos rodea. Deciden a qué información accedemos, qué música escuchamos, qué series vemos, cómo respondemos a un email, qué burbuja ideológica nos rodea, si nos conceden un préstamo… Y hemos metido esos algoritmos en hospitales, colegios, comisarías, nuestras casas y, por supuesto, nuestro bolsillo.
¿Qué sabemos de ellos? Poco o nada. Son opacos, invisibles a nuestros ojos (a la par que esenciales). El gran gol que nos ha metido la tecnología es hacernos pensar que es neutra y que las decisiones que tome serán mejores al no estar sujeta a condicionamientos humanos… y no siempre es así. Está cargada de sesgos de género, raciales, de orientación sexual… De hecho, en muchas ocasiones son sistemas que replican y amplifican esos sesgos, dado que hoy en día son un vehículo primordial de transmisión cultural y de conocimiento y están creando “verdades algorítmicas” irrefutables que refuerzan un modelo único.
¿Y cómo puede suceder esto si son ceros y unos no sujetos a emociones? La inmensa mayoría de las aplicaciones de Inteligencia Artificial en la actualidad se basan en la categoría de algoritmos de deep learning que establecen patrones tras procesar grandes cantidades de datos. Es decir, son como estudiantes en un colegio: aprenden del libro de texto (información con las que se les entrena para que generen reglas de inferencia) y del profesorado (que es quien decide qué temas entrarán en el examen… y le dice a su alumnado, por tanto, qué parámetros son importantes). En esta conversación analizaremos en qué puntos y de qué manera se pueden cargar de sesgos, cuáles son las causas y cómo podemos resolver esto.
La tecnología nos hace dar pasos hacia adelante, pero para ello debe ser inclusiva y diversa. Hagamos que aquellas personas y colectivos que han sido históricamente marginalizados tengan la oportunidad de decidir y construir sus propios futuros sociotécnicos dignos.
Tipo de asistencia
Presencial y online
Ponente:
LORENA FERNÁNDEZ ÁLVAREZ. Ingeniera informática, máster en seguridad de la información. Actualmente, directora de comunicación digital de la Universidad de Deusto. Sus áreas de trabajo están centradas en el análisis de cómo incorporar la perspectiva de género en la investigación, estudio de sesgos interseccionales en la Inteligencia Artificial así como la divulgación de la “tubería que gotea” (leaky pipeline) y por la que perdemos el talento femenino en las titulaciones STEM.
Miembro del grupo experto de la Comisión Europea Gendered Innovations, liderado por la Universidad de Stanford, para analizar el impacto de no incorporar la perspectiva de género en la Inteligencia Artificial. Parte del proyecto Horizon Europe RE-WIRING (Realising Girls’ and Women’s Inclusion, Representation and Empowerment), del Comité de Sabias da Cátedra de Feminismos 4.0 da Universidade de Vigo y del Consejo de Personas Expertas de BBK Kuna Institutoa, presidido por Daniel Innerarity.
Colabora en el programa de radio “Hoy por Hoy Bilbao” de la Cadena SER desde 2009 con una sección sobre tecnología. Además, es jurado del premio Ada Byron a la mujer tecnóloga. Ha creado junto a Pablo Garaizar e Iñigo Maestro Nobel Run, un juego de mesa con enfoque lúdico e innovador, que busca cuestionar y transformar los estereotipos de género y la desigualdad en la ciencia. Ha creado el calendario de mujeres científicas.
