Texto: Jose Castillo, Fotografía: Francisco Rivas - 20 dic 2023 13:44 CET

Para entender todos estos desafíos que las sociedades europeas ya están afrontando, desde la alianza Una Europa se lanzó el pasado año el MOOC (Massive Open Online Course) titulado AI in Society. Este curso gratuito online, que se ha ido actualizando con nuevos contenidos desde entonces, persigue que los alumnos e investigadores que lo realicen obtengan una formación crítica acerca de los fundamentos de la IA y las consecuencias ético-sociales de su uso. Para ello, se desarrollan distintos módulos sobre su impacto en diferentes sectores de la sociedad, como la justicia, la atención sanitaria o la participación democrática. Todo con el objetivo de mitigar los riesgos intrínsecos en el diseño, implementación y despliegue de la IA.

El proyecto ha sido desarrollado por investigadores y profesores de cuatro de las once universidades de Una Europa: University of Helsinki, University of Edinburgh, Université Paris 1 Panthéon Sorbonne y la Universidad Complutense de Madrid. En concreto, por parte de la UCM han participado los profesores Daniel Gómez, especializado en estadística y ciencia de datos, y José Manuel Robles, experto en sociología aplicada. En los próximos meses se unirá al equipo la profesora Belén Casas-Mas, investigadora en el área de comunicación en redes sociales (los tres aparecen en la imagen superior).

“Somos un equipo multidisciplinar que quiere generar una reflexión que vaya más allá de lo técnico, que investigue y divulgue sobre los impactos sociales y políticos que tiene el desarrollo de la IA en todos los ámbitos sociales”. Así destaca el profesor Robles el principal aporte que han hecho desde la Complutense al curso, iniciativa del grupo de trabajo de ciencia de datos e inteligencia artificial de Una Europa, del que forman parte los profesores de la UCM Carlos Gregorio Rodríguez, José Ángel González Prieto y Juan Antonio Recio García.

La concienciación como meta

El MOOC está organizado en seis áreas temáticas, cada una con sus propias lecciones y pruebas de evaluación, que tratan cuestiones como el impacto de la IA en los valores éticos, la relación entre la IA y la justicia o su impacto en las sociedades democráticas (área, esta última, en la que los profesores de la UCM han colaborado más directamente).

El profesor Gómez clasifica en dos los mayores riesgos que la IA supone para los países democráticos: “Los derechos básicos y civiles pueden ser vulnerados de dos maneras por la IA, de manera inconsciente o con intención. Por un lado, tenemos aquellos gestores que creen ciegamente en los sistemas decisores de las máquinas. Pero los algoritmos de la IA no son neutros ni infalibles, generan discriminaciones o segmentaciones de tipo racial o de género, por ejemplo. Por otra parte, tenemos la amenaza de aquellos actores que utilizan la IA intencionadamente para generar desinformación, robar datos o promover la polarización política. Hemos de ser conscientes de los dos riesgos”. La profesora Casas-Mas advierte de que “fenómenos como el aumento del discurso populista, la polarización y la post-verdad, se están extendiendo a nivel global gracias a este uso intencionado de IA, debilitando incluso democracias que históricamente se consideraban asentadas o impulsando los fundamentalismos y los regímenes totalitarios”.

Por su parte, el profesor Robles recuerda que la IA no solamente supone riesgos, sino que también entraña avances y facilidades para nuestra vida diaria. “Por ejemplo, en casos como el de una pandemia, o cualquier otra situación de emergencia, los robots de la IA que mandan mensajes informativos a la población nos pueden ser de una gran ayuda, ya que en estos casos su fin es el de orientar a los ciudadanos de una manera clara y rápida”, menciona el profesor de Sociología Aplicada en la Facultad de Ciencias Económicas y Empresariales.

Teniendo en cuenta que la IA genera consecuencias negativas y positivas según el uso que se le dé, Robles menciona que los objetivos de este curso son técnicos y formativos, pero, sobre todo, concienciadores. “El público al que queremos llegar con este MOOC no es meramente académico, queremos que sea un público general y heterogéneo, ya que todos interactuamos con la IA a distintos niveles en nuestra vida diaria. Por tanto, todos debemos tener ese grado mínimo de concienciación de lo que este uso supone”, añade Daniel Gómez, profesor de la Facultad de Estudios Estadísticos.

El impacto de la IA a nivel europeo

Ante los riesgos que puede suponer el mal uso intencionado por diversos actores políticos y empresariales de la IA, la Unión Europea aprobó el pasado 8 de diciembre la primera ley a nivel mundial que regulará de forma completa los posibles usos de la IA y limitará sus usos indebidos, como el control biométrico de los ciudadanos. Aunque aún falta por ver su desarrollo práctico, ya que la ley aún no ha entrado en vigor, esta pretende que las distintas aplicaciones que utilicen IA se clasifiquen y limiten según el riesgo que supongan para los usuarios.

El profesor Gómez admite que “es muy positivo que los europeos nos vayamos poniendo de acuerdo en regular y proteger los derechos que puedan ser vulnerados por la IA”. Sin embargo, lo más relevante es concienciar y educar a los ciudadanos: “Por mucho que el uso de la IA se regule, seguirán existiendo derechos individuales que pueden ser invadidos, aunque sea de manera legal. Por ejemplo, todos a diario al descargar distintas aplicaciones a nuestros teléfonos móviles cedemos el uso de datos privados a grandes empresas tecnológicas; datos que nos pueden comprometer”. En el mismo sentido concluye su compañero de investigación, el profesor Robles: “La regulación siempre va por detrás de la innovación técnica. Pero, desde un punto de vista sociológico, más importante incluso que la protección legal es la concienciación. Nuestro objetivo con este MOOC es promover una población formada y educada tanto en el buen uso como en los riesgos de los avances tecnológicos”.

Cualquier interesado puede apuntarse al MOOC Artificial Intelligence in Society, que se imparte íntegramente en inglés. Para recibir información sobre otras actividades y oportunidades de Una Europa para los distintos grupos de la comunidad universitaria, suscríbete a la Newsletter de la alianza aquí.