Texto: Cristina Saura, Fotografía: Francisco Rivas y Cristina Saura - 24 jul 2026 14:28 CET

La vicerrectora de Relaciones Internacionales, Cooperación y Voluntariado de la UCM, Rosario Cristóbal, fue la encargada de dar la bienvenida a los participantes durante la inauguración del curso, que ha ofrecido una oportunidad para combinar la formación y el trabajo práctico con el debate interdisciplinar sobre uno de los grandes desafíos tecnológicos y sociales del presente.

El programa ha contado con la participación de expertos vinculados al proyecto europeo ALFIE (Assessment of Learning Technologies and Frameworks for Intelligent and Ethical AI). Su objetivo ha sido contribuir a formar a una nueva generación de profesionales e investigadores capaces de desarrollar soluciones de inteligencia artificial socialmente responsables.

El programa parte de una premisa: la ética no puede incorporarse a un sistema de inteligencia artificial una vez desarrollado. Las cuestiones relacionadas con los sesgos, los derechos humanos, la privacidad, el impacto sobre distintos colectivos o la justicia de los datos deben formar parte del proceso desde sus primeras fases.

“La inteligencia artificial no es solo una cuestión técnica”, ha explicado Ángel González Prieto, profesor de la Facultad de Ciencias Matemáticas de la UCM y uno de los coordinadores académicos del curso. Para González, la extraordinaria evolución de estas tecnologías en los últimos años ha abierto posibilidades hasta hace poco inimaginables, pero también plantea preguntas fundamentales sobre su uso y sobre la responsabilidad de quienes las diseñan y aplican.

Los 35 participantes proceden de prácticamente todas las universidades de la alianza Una Europa y cuentan con perfiles académicos y profesionales muy diferentes: desde la inteligencia artificial y la ciencia de datos hasta el derecho, las ciencias sociales, la sociología, los estudios biomédicos o la filosofía. Esta diversidad constituye precisamente uno de los elementos centrales de la propuesta, basada en la convicción de que los retos que plantea la IA no pueden resolverse exclusivamente desde una perspectiva tecnológica.

“No se trata solo de formar a personas técnicas en más aspectos técnicos”, señala González. El propósito es también proporcionarles herramientas para comprender las implicaciones éticas de la inteligencia artificial y aprender a utilizarla “para el bien”, siguiendo el principio de AI for Good. El curso plantea así la necesidad de desarrollar tecnologías capaces de contribuir a resolver problemas sociales sin reproducir o agravar las desigualdades y sesgos existentes.

Aprender de forma interdisciplinar para diseñar una IA responsable

La estructura del programa ha buscado trasladar esta reflexión a la práctica. Durante la primera jornada, los participantes recibieron formación tanto sobre los fundamentos de la inteligencia artificial como sobre sus dimensiones éticas y filosóficas. La intención era que los estudiantes con perfiles técnicos pudieran aproximarse a los debates éticos y que quienes procedían de las ciencias sociales y las humanidades adquirieran una base sobre el funcionamiento y las posibilidades de estas tecnologías.

A partir de ahí se organizaron en equipos multidisciplinares para trabajar sobre diferentes retos y desarrollar propuestas de solución. Los grupos contaron con el acompañamiento de mentores, que les han asesorado durante el proceso y ayudado a incorporar a sus proyectos herramientas y criterios para identificar y abordar posibles problemas éticos.

El último día, los equipos han presentado sus proyectos y las soluciones planteadas, en una evaluación que no se ha limitado a valorar el resultado técnico, sino también el procedimiento seguido, la calidad del análisis ético y la capacidad para identificar sus limitaciones y riesgos. De este modo, el curso ha querido subrayar que una solución de inteligencia artificial no puede considerarse plenamente satisfactoria si no se ha reflexionado también sobre sus consecuencias y sobre las personas que pueden verse afectadas por ella.

Para Ángel González, uno de los aprendizajes fundamentales que los participantes deberían llevarse consigo es precisamente la necesidad de actuar desde el origen: “Los modelos de inteligencia artificial pueden reproducir los sesgos presentes en los datos con los que han sido entrenados. Por ello, la responsabilidad no debe situarse únicamente en el momento en que una herramienta comienza a utilizarse, sino mucho antes, desde la propia recogida y selección de los datos”.

En este sentido, el curso ha puesto también de relieve la importancia de preservar y reforzar la diversidad de disciplinas dentro de la universidad. La filosofía, el derecho o las ciencias sociales pueden desempeñar un papel decisivo a la hora de comprender los efectos de tecnologías que, aunque tengan una base matemática y computacional, terminan desplegándose en contextos sociales y afectando a personas concretas.

La ética, desde el principio y no como una etapa final

Esta misma idea estuvo presente en la conferencia Ethical Challenges in Artificial Intelligence, impartida por Adrian Gavornik, investigador del Kempelen Institute of Intelligent Technologies de Bratislava y especialista en ética de la inteligencia artificial. Gavornik participa en el proyecto europeo ALFIE y ha acompañado como mentor a los estudiantes durante el curso.

En su opinión, uno de los principales retos consiste en evitar que la ética se convierta en una revisión final que se realiza cuando una tecnología ya está diseñada. “La ética no es algo que solo viene después de desarrollar una tecnología”, sostiene. “Por el contrario, debe incorporarse desde el principio, preguntándose quiénes son las personas y colectivos afectados, qué datos se utilizan y si estos son justos y representativos”. Para el investigador, la creciente atención que las empresas tecnológicas prestan a la ética es positiva, pero no está exenta de riesgos. La incorporación de filósofos y especialistas en ética no debería convertirse en un ejercicio meramente cosmético o en una forma de justificar decisiones ya tomadas. “La verdadera aportación de la ética –señala- está en abrir debates difíciles desde las primeras fases del desarrollo tecnológico y en establecer un lenguaje común entre disciplinas que tradicionalmente han trabajado de manera separada”.

La colaboración entre ingenieros, científicos de datos, filósofos, juristas y especialistas de las ciencias sociales resulta, por tanto, esencial para comprender el impacto de la inteligencia artificial en el mundo real. Como recuerda Gavornik, las tecnologías no existen de manera aislada: son utilizadas por personas y se incorporan a la vida cotidiana. Por ello, es necesario anticipar sus posibles consecuencias y riesgos a largo plazo.

Esta aproximación interdisciplinar conecta directamente con la filosofía del curso y con el papel que la universidad puede desempeñar en un momento de transformación tecnológica acelerada. Para González, la academia constituye un espacio privilegiado para reflexionar de manera sosegada sobre hacia dónde debe avanzar la inteligencia artificial, qué límites deben establecerse y qué usos pueden considerarse éticamente aceptables. “El reto –reconoce- es que la velocidad de la innovación tecnológica y la capacidad de inversión de las grandes empresas están poniendo a prueba la capacidad de respuesta de las universidades”. Pero, al mismo tiempo, defiende la necesidad de seguir apostando por todas las áreas del conocimiento, incluidas aquellas que no siempre se consideran prioritarias en términos tecnológicos. La existencia de expertos en filosofía, psicología, derecho o ciencias sociales resulta imprescindible cuando surgen nuevos problemas que requieren precisamente de esas perspectivas.

Una experiencia que trasciende las aulas

Además de proporcionar una experiencia formativa intensiva, el curso ha actuado como punto de conexión entre jóvenes investigadores de distintos países y disciplinas, favoreciendo que sus reflexiones y aprendizajes se trasladen posteriormente a sus universidades y comunidades académicas.

La iniciativa ha contado con el respaldo de Bosch España, principal patrocinador de la actividad, cuya colaboración se enmarca asimismo en la relación que mantiene con la Universidad Complutense a través de la Cátedra Bosch-UCM en Inteligencia Artificial Aplicada a Internet de las Cosas. El apoyo de la empresa se suma a la colaboración de Una Europa y del proyecto europeo ALFIE para impulsar una reflexión que resulta cada vez más necesaria: cómo aprovechar el enorme potencial de la inteligencia artificial sin perder de vista su impacto sobre las personas y la sociedad.

El Data Science and Artificial Intelligence for Social Welfare Challenge propone, en definitiva, mirar a la inteligencia artificial desde una perspectiva que va más allá de sus capacidades técnicas. Frente a la velocidad con la que evolucionan estas tecnologías, el curso reivindica la necesidad de detenerse a formular preguntas, incorporar distintas voces y anticipar consecuencias. Porque, como resume Ángel González, “los algoritmos pueden ser matemáticamente neutrales, pero los datos y las decisiones humanas que intervienen en su diseño y utilización no lo son necesariamente. La responsabilidad, por tanto, comienza mucho antes de que una inteligencia artificial llegue a tomar una decisión”.