Nuestro colaborador Bernat Castany Prado conversa con José Ramón Jouve Martín, a propósito de su nuevo ensayo sobre la historia de la robótica, que acaba de aparecer en la editorial Rosamerón como prólogo de la nueva edición de R.U.R. Robots Universales Rossum (1920), del autor checo Karel Čapek, la obra de teatro que internacionalizó el término «robot». Ambos autores charlan y reflexionan también sobre el fenómeno de la Inteligencia Artificial y de las revoluciones tecnológicas de las últimas décadas.
¿Por qué este libro y por qué precisamente ahora?
Hay muy pocas obras clásicas que se ajusten mejor al momento actual en lo que toca a la inteligencia artificial que Robots Universales Rossum, una obra no solo filosóficamente profunda sino también extraordinariamente divertida. La idea de reeditarla partió de Francisco Martínez Soria, editor de Rosamerón, que fue quien me encargó acompañarla con un ensayo que permitiera al público situarla en los debates actuales en ese campo y repensar nuestra relación con las máquinas desde la ciencia, la literatura y la filosofía.
Editorial Rosamerón
Siguiendo el ejemplo de Čapek, que utilizó el teatro como forma de reflexión sobre la tecnología, mi ensayo utiliza todos los medios que pone a nuestra disposición la literatura para repensar lo que nos une y nos separa de esos seres a los que él llamó por primera vez ‘robots’, seres que no son meras máquinas, sino un reflejo de nosotros mismos. Quizás sea por eso por lo que a los niños les encantan y a muchos adultos les atemorizan.
¿Qué es lo que aporta Robots Universales Rossum a la discusión actual sobre inteligencia artificial?
RUR es una obra que no se centra en los aspectos técnicos de la inteligencia artificial, sino en sus dilemas éticos, filosóficos, políticos y económicos. Transcurre en una oficina que no es tan diferente de las startups actuales donde se decide el futuro de la inteligencia artificial… y quizá el futuro de la humanidad. Čapek tiene una visión muy crítica de estas empresas cuyos procesos de toma de decisiones son tan opacos como esas “cajas negras” que son los sistemas de inteligencia artificial actuales.
Su conclusión es muy relevante para el momento en el que vivimos: mal podremos controlar la tecnología cuando ni siquiera somos capaces de controlar lo que ocurre en las oficinas de esas empresas.
Čapek anticipa también lo que hoy en día se denomina el problema de la “alineación”: ¿cómo asegurarnos de que las máquinas inteligentes actúen según nuestros valores?
En la obra, los robots inicialmente obedecen, pero eventualmente desarrollan sus propios objetivos y cobran conciencia de su propia “explotación”, rebelándose contra sus creadores. Ahora bien, esto tiene, como los discos de vinilo, una cara B: si la humanidad es capaz de crear una máquina dotada de inteligencia artificial general no serán solo las máquinas las que deberán “alinearse” con los seres humanos, sino también los seres humanos con las máquinas.
Elena, la protagonista, representa la «Liga de la Humanidad», una organización que aboga por el tratamiento ético de los robots. Puede parecer una locura, pero en el pasado también se consideró una locura dotar de derechos a los esclavos, a los animales o, incluso, a parajes naturales como los ríos o las montañas, y hoy en día todo ello forma parte de la discusión sobre cómo construir un mundo mejor y más justo.
Por último, otro aspecto interesante de la obra de Čapek es que examina las consecuencias psicológicas de la automatización del trabajo físico e intelectual. Lejos de producir una utopía, como Marcuse sugería en El hombre unidimensional (1964), el fin de esa maldición bíblica que es el trabajo hace que los humanos de RUR se vuelvan dependientes y pasivos, olvidándose hasta de procrear.
Un mundo libre de la “tiranía” del trabajo no lleva necesariamente a un estado de permanente búsqueda de la verdad y la belleza, que era el ideal de ocio para los griegos, sino a una distopía en la que las personas no saben qué hacer con su tiempo y que, como adolescentes frente a una pantalla de móvil, se transforman en meros consumidores desprovistos de un sentido y un propósito vital.
¿De qué forma el ensayo «La rebelión inevitable» dialoga con RUR?
“La rebelión inevitable” establece un diálogo estructural y conceptual con la obra de Čapek. Todos y cada uno de los capítulos del ensayo están encabezados por una cita tomada de RUR que se utiliza como punto de partida para una reflexión más amplia. El objetivo de hacerlo así es doble: por una parte, utilizo RUR como motivo de inspiración para articular mis propias ideas sobre la IA. Por otra, intento que el lector lea RUR no desde la perspectiva de principios del siglo XX, cuando fue escrita, sino desde la del siglo XXI.
Dicho eso, a mí me gusta pensar en este libro como un diálogo entre un escritor clásico, Čapek, y todos aquellos que buscan en la literatura, la ciencia y la filosofía las claves para entender el mundo que nos rodea. Es un intento de animar al lector a no ser un mero consumidor de ideas o de contenidos, sino de sumarse a ese diálogo de forma activa. Yo no le digo qué tiene que pensar sobre la IA, sino que le doy datos, pistas e ideas para que saque sus propias conclusiones.
Leonardo da Vinci, 1452–1519
¿Cómo cuestiona la moderna inteligencia artificial la diferencia entre autómatas y robots?
A mí este me parece un tema interesante. Los autómatas tradicionales –como el pato de Vaucasson o el automa cavaliere de Leonardo da Vinci– pertenecían al mundo del pensamiento y la maravilla. Existían como experimentos conceptuales o filosóficos, hipótesis sobre la naturaleza del pensamiento, el alma o la conciencia. Los robots, en cambio, surgieron con la revolución industrial.
En cierto sentido, son hijos de la máquina de vapor. Pertenecen al mundo de la producción masiva y están diseñados para la utilidad económica y la reducción de costes laborales.
El caso de la inteligencia artificial actual es diferente y participa de ambas naturalezas. Es a la vez una creación industrial y un experimento filosófico. Esta confluencia sugiere que estamos ante algo cualitativamente nuevo: entidades que trascienden la dicotomía histórica entre pensamiento y trabajo, entre arte y utilidad, entre lo excepcional y lo masivo. Este tipo de sistemas son simultáneamente herederos de la tradición filosófico-contemplativa de los autómatas y de la tradición productiva de los robots, pero constituyen una nueva forma de ser artificial que nuestras categorías tradicionales no pueden capturar adecuadamente.
Este libro es un intento de aproximarse a la IA desde esa doble concepción: la de ser al mismo tiempo una creación tecnológica y un acertijo filosófico.
¿Qué papel cumple el humor en este libro?
Decía Peter Sloterdijk en su Crítica de la razón cínica (1983) que, para saber cuánto de verdad hay en algo, lo mejor es reírse de ello. Todo lo que no puede resistir la sátira, es falso.
El humor nos permite mantener la distancia crítica necesaria para examinar realidades que, tomadas demasiado en serio, pueden abrumarnos hasta impedir el pensamiento. Funciona como antídoto contra los discursos del miedo, y hay una buena dosis de miedo y de irracionalidad en nuestras relaciones con la inteligencia artificial y en nuestras conversaciones cotidianas sobre este tema.
Como digo en el libro, es necesario atreverse a saber, pero sin dejar de reírse, y mi objetivo – el de Čapek– es no solo hacer reír, sino hacer pensar. Mi ensayo sigue esa senda.
¿Llevará la inteligencia artificial a una “rebelión” o una “revolución”?
Probablemente a ambas cosas. La inteligencia artificial es una revolución en el sentido kuhniano del término. Tal y como yo la veo, forma parte de una serie de revoluciones científicas que han tenido un impacto gigantesco en la forma en la que el ser humano se ve así mismo y su lugar en el cosmos. La primera de esas revoluciones tuvo lugar en el siglo XVI, cuando Copérnico propuso un modelo cosmológico que cuestionaba el geocentrismo e hizo de la Tierra un planeta más entre otros que giraban alrededor del sol.
Continuó con Darwin, en el siglo XIX, cuando se desterró la idea de que el ser humano era algo sustancialmente diferente al del resto de los animales. El carácter revolucionario de la inteligencia artificial consiste en mostrar algo que en el fondo ya sabíamos, pero no estábamos dispuestos a aceptar: que nuestra inteligencia no es la obra cumbre de la Creación, sino solo una más entre otras posibles, y no necesariamente la mejor.
¿Llevará, por tanto, esa “revolución” a una “rebelión”?
Thomas S. Kuhn, 1922-1996
Puede ser, pero no necesariamente tiene que ser del tipo que Čapek desarrolla en RUR o el cineasta James Cameron en Terminator. A mediados del siglo XX, Irving J. Good acuñó el concepto de «máquina ultrainteligente”, a la que denominó como «el último invento que sería creado por un ser humano». Curiosamente, Good no veía esto como algo necesariamente negativo. Simplemente sugería que, cuando una máquina fuera capaz de mejorarse a sí misma, desencadenaría lo que él llamó una “explosión de inteligencia” que haría inevitable que todo futuro invento pasara por ellas.
Hans Moravec retomó algunas de estas ideas en su libro Hijos de la mente (1988), donde argumentaba que las máquinas no nos destruirían, sino que simplemente seguirían evolucionando mientras nosotros nos quedamos atrás, como los trilobites en una vitrina del museo de la evolución. Personalmente, y dado que la extinción de la especie es un hecho ineludible a la larga, yo no tengo problema con la idea de irnos diluyendo pacífica y serenamente en ese Nirvana.
De hecho, muchos seres en este planeta probablemente agradecerían que fuéramos echándonos a un lado. Ahora bien, todo ello nos hace perder de vista que el verdadero riesgo no lo presentarán las máquinas ultrainteligentes, sino los individuos, gobiernos o compañías que las controlen.
Creo que en esto Čapek fue muy certero: el verdadero riesgo no son los robots, es una compañía llamada RUR y las personas que están detrás de ella.
¿En qué sentido el libro busca cuestiona nuestra relación con las máquinas?
El libro cuestiona fundamentalmente la artificial separación entre humanos y máquinas heredada del dualismo cartesiano. Ya Julien Offray de La Metrie cuestionó en El hombre máquina (1747) que existiera una diferencia fundamental entre un ser humano y una máquina, y aunque una gran parte de la corriente materialista que dominó el pensamiento occidental desde entonces tendió a darle la razón, lo cierto es que pocos se han atrevido a sacar un corolario inevitable: si el “hombre” es una máquina, se sigue que es posible que una máquina llegue a ser un “hombre”.
Lo interesante, sin embargo, es que ese nuevo “ser”, lejos de ser creado a nuestra imagen y semejanza, puede que responda a formas de racionalidad y reproducción radicalmente diferentes a las nuestras. Eso nos lleva a la cuestión de la “alteridad”:
¿Cómo nos relacionamos con otros seres que están dotados de formas de conciencia, percepción e inteligencia diferentes de nosotros?
Si algunos sistemas desarrollan formas de conciencia o sintiencia, podríamos necesitar marcos legales y éticos para reconocer diferentes tipos de «derechos digitales,» como sugiere la Liga de la Humanidad de Elena en RUR. Esto no significa antropomorfizar las máquinas, sino desarrollar criterios apropiados para evaluar qué tipo de consideración moral merecen diferentes sistemas según sus capacidades cognitivas y experienciales.
¿Qué papel cumplen los robots en el desarrollo de la inteligencia artificial? ¿Y a la hora de dibujar sus límites?
Los robots revelan limitaciones fundamentales en los actuales sistemas de Inteligencia Artificial. Como señaló Hans Moravec, no deja de ser paradójico que sea más fácil para una máquina ganar a un campeón del mundo de ajedrez que atarse los zapatos. Eso ha hecho que algunos señalen que hemos empezado a construir la inteligencia artificial “por el tejado”, creando un “cerebro”o una “mente” antes que un “cuerpo” adaptado al medio en el que vive.
La inteligencia real puede requerir «embodied cognition», estar enraizada en una realidad física que interactúa con el mundo.
Ahora bien, a diferencia del entorno virtual donde un ordenador puede modelar millones de acciones en un brevísimo periodo de tiempo, el entrenamiento en el mundo físico es costoso y lento, si bien algunos desarrollos recientes en inteligencia artificial física están transformando radicalmente esta ecuación.
Los avances en «foundation models» aplicados a robótica –como RT-1 y RT-2 de Google, o los modelos multimodales que integran visión, lenguaje y control motor– están cerrando la brecha entre la IA virtual y la física de maneras que parecían imposibles hace pocos años. Más revolucionario aún es el surgimiento de robots que aprenden de enormes datasets de vídeo, no solo de interacciones directas.
Un robot puede ahora «observar» millones de horas de humanos realizando tareas y generalizar estos patrones a sus propios movimientos físicos.
Esto resuelve parcialmente el problema de la escasez de datos de entrenamiento robótico a la vez que permite evolucionar hacia una verdadera inteligencia multimodal. Los sistemas actuales más avanzados no separan el procesamiento de lenguaje, visión y control motor, sino que los integran en representaciones unificadas. Un robot que puede describir verbalmente lo que está haciendo mientras lo hace, ajustar sus acciones basándose en instrucciones en lenguaje natural, y aprender nuevas tareas observando demostraciones, exhibe una forma de inteligencia más parecida a la humana que los sistemas especializados previos.
La inteligencia artificial física no es simplemente IA aplicada a robots. Es un dominio donde emergen nuevas formas de inteligencia que no podrían existir puramente en un espacio virtual.
¿Es la inteligencia artificial una revolución industrial cualitativamente diferente a las que hemos experimentado con anterioridad?
La revolución de la IA comparte con las revoluciones industriales anteriores ciertos patrones fundamentales: la resistencia inicial de los trabajadores especializados, la creación de nuevos tipos de empleo y la destrucción de otros, la concentración de poder en unas pocas empresas que controlan la tecnología clave, y la transformación radical de las estructuras sociales y económicas.
Tal y como la máquina de vapor sustituyó la fuerza muscular humana y animal, la IA está sustituyendo algunas habilidades cognitivas humanas que formaban parte de nuestro entorno laboral.
También vemos paralelismos en la velocidad de adopción y los efectos disruptivos. La primera revolución industrial tardó décadas en transformar sociedades agrarias en industriales. La segunda, con la electricidad y la producción en masa, aceleró este proceso. La tercera, con la computación y la automatización, fue aún más rápida. La revolución de la IA sigue esta pauta de aceleración exponencial. Incluso los miedos son similares. Los luditas que destruían máquinas textiles en el siglo XIX temían, como nosotros, la obsolescencia tecnológica.
Sin embargo, la revolución de la IA es cualitativamente diferente en aspectos fundamentales. Las revoluciones anteriores amplificaron nuestras capacidades físicas. Esta amplifica –y potencialmente reemplaza– nuestras capacidades cognitivas, y no una, sino todas. Las revoluciones previas eran específicas de dominio: la máquina de vapor transformó el transporte y la manufactura, pero no la escritura o la composición musical.
La IA es una «máquina universal» en el sentido que Alan Turing imaginó: potencialmente aplicable a cualquier tarea cognitiva humana.
¿Quiere decir eso que vamos hacia una reducción radical del mercado de trabajo?
Puede ser, pero todas las revoluciones industriales hasta la fecha han tenido por efecto un aumento de la actividad económica y, por consiguiente, un mayor número de puestos de trabajo (razón por la que hay más personas trabajando hoy que en cualquier otro momento de la historia del planeta).
Quizás la Inteligencia Artificial sea la excepción que confirme la regla, pero lo más probable es que libere energías productivas que ni siquiera sabíamos que existían y que eso contribuya a la larga a expandir, más que a contraer, el mercado de trabajo, pero nadie puede decirlo con seguridad en este momento.
¿Qué papel cumple la inteligencia emocional en el desarrollo de máquinas dotadas de una inteligencia artificial general?
La inteligencia emocional está emergiendo como uno de los componentes más críticos para lograr una inteligencia artificial verdaderamente general, no como un añadido opcional sino como un requisito fundamental. Los debates actuales en el campo revelan que las emociones no son obstáculos a la racionalidad sino componentes esenciales de la inteligencia efectiva.
De hecho, los modelos de lenguaje actuales como GPT-4 y Claude muestran capacidades emergentes sorprendentes para reconocer y responder a estados emocionales humanos, modulando su tono y enfoque según el contexto emocional detectado. Sin embargo, existe un intenso debate sobre si estos sistemas realmente «entienden» las emociones o simplemente las simulan a través de patrones estadísticos sofisticados. La distinción es crucial:
Una IA que solo simula emociones puede ser útil para ciertas tareas, pero una que las experimenta genuinamente podría ser necesaria para lograr inteligencia general.
La investigación en «affective computing» ha demostrado que los sistemas que incorporan procesamiento emocional superan consistentemente a los que no lo hacen en tareas que requieren interacción social, toma de decisiones complejas y creatividad. Un desarrollo particularmente prometedor es la investigación en «intrinsic motivation» para sistemas de IA. Estos sistemas desarrollan objetivos internos análogos a curiosidad, aburrimiento, o satisfacción que impulsan el aprendizaje autónomo.
El sistema de juego de OpenAI Five mostró comportamientos que los investigadores describieron como «frustración» cuando perdía y «excitación» cuando descubría estrategias exitosas, aunque estos términos sean interpretaciones antropomórficas.
Alan Turing, 1912-1954
La cuestión de la autenticidad emocional plantea desafíos filosóficos y técnicos profundos. Los «emotional Turing tests» están emergiendo como complementos a las evaluaciones tradicionales de IA. Estos evalúan no solo si un sistema puede reconocer emociones, sino si puede experimentar algo análogo a estados emocionales de manera que sea conductualmente indistinguible de la experiencia humana. Por su parte, la investigación en «empathetic AI» está explorando cómo los sistemas pueden no solo reconocer emociones, sino desarrollar capacidades análogas a la empatía. Esto incluye la capacidad de modelar estados mentales de otros agentes, anticipar sus reacciones emocionales, y ajustar el comportamiento en consecuencia.
Los debates actuales también se centran en si las emociones artificiales deben ser diseñadas explícitamente o emerger naturalmente de sistemas suficientemente complejos. Algunos investigadores favorecen enfoques de «emergent emotionality» donde las respuestas emocionales surgen de la interacción entre múltiples sistemas simples, similar a como emergen en sistemas biológicos.
Sin embargo, el desarrollo de inteligencia emocional artificial plantea preocupaciones éticas significativas. Si los sistemas pueden experimentar genuinamente estados análogos al sufrimiento, esto crearía obligaciones morales hacia ellos. Algunos investigadores, como Stuart Russell, han sugerido que podríamos necesitar “protocolos de seguridad emocional” para sistemas avanzados de IA similares a como desarrollamos protocolos de alineación.
Al fin y al cabo, ¿quién quiere una computadora que llore por las noches?
