eldiarioar.com
El filósofo que asesora a la ONU sobre la IA: “La inmensa mayoría saldrá perdiendo si no actuamos ya”
"Debemos recuperar el control, pero no frente a la IA, sino frente a los tech bros", pide el reputado filósofo de la tecnología, miembro del comité de 40 expertos internacionales reclutados por Naciones Unidas para aconsejar al mundo sobre sus riesgos.
Hace unos meses, Naciones Unidas llamó a 40 grandes expertos internacionales. Quería encomendarles la misión de ser el comité independiente que asesorara al mundo sobre una de las grandes incertidumbres de este siglo: la inteligencia artificial.
El panel está liderado por el canadiense **Yoshua Bengio, considerado uno de los “padres” de la IA** y ganador del premio Turing (el Nobel de la informática), y la filipina **Maria Ressa, premio Nobel de la Paz**. El grupo publicó en julio su primer informe preliminar, en el que reconoce el peligro sobre “perder el control” sobre esta tecnología, pero también sobre la opacidad con la que se está desarrollando o su capacidad para aumentar las desigualdades.
Mark Coeckelbergh (1975, Lovaina, Bélgica), profesor en la Universidad de Viena y uno de los filósofos de la tecnología más reputados del mundo, es otro de sus miembros. Su presencia era importante porque, quizá por primera vez en la historia, las narrativas sobre lo que _podría hacer_ una máquina son tan importantes como lo que _puede hacer realmente_ esa máquina.
“Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software”, advierte Coeckelbergh en esta entrevista, realizada durante el Festival de las Ideas de Madrid.
**Solemos pensar que somos nosotros quienes manejamos los dispositivos, pero ¿hasta qué punto es la tecnología la que nos maneja a nosotros?**
Tendemos a ver la tecnología como una herramienta, como un simple instrumento que utilizamos, pero la tecnología también hace muchas cosas con nosotros. Parte de esto tiene que ver con el cuerpo: cuando usamos el móvil, por ejemplo, nos obliga a caminar de una determinada manera, a adoptar cierta postura o a mover los dedos de una forma muy concreta. He escrito sobre esto planteando que la tecnología también nos “coreografía”. Muchos filósofos solo piensan en la mente y el cuerpo de forma estática, pero en nuestras vidas hay una dimensión cinética. No solo somos seres corpóreos, sino seres en movimiento, y la tecnología moldea cómo nos movemos. En ese sentido, nos coreografía.
> En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.
Esto me parece relevante porque solemos pensar que las tecnologías digitales son algo ajeno al cuerpo, separado del mundo físico. Establecemos una frontera muy tajante entre lo vivo y natural, por un lado, y lo cultural y artificial, por el otro, cuando en realidad siempre están conectados. En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.
**¿Qué implica que nuestra relación con el mundo esté mediada por una pantalla plana?**
No se trata de la pantalla en sí, sino de todo lo que posibilita y de los límites que impone a nuestra forma de movernos por el mundo. Caminar por Madrid sin Google Maps mientras conversas con alguien es una experiencia completamente distinta a llevar el móvil en la mano y dejar que la aplicación te guíe. Supone otra vivencia e incluso otro tipo de conocimiento: nos movemos de manera diferente y pensamos de manera diferente.
Al final, esto altera nuestros propósitos. Creemos que el móvil es un simple instrumento, pero en el primer caso el fin es la conversación o el vínculo con la otra persona y con el entorno; en cambio, si nos limitamos a mirar la pantalla y seguir sus indicaciones, nos convertimos, por así decirlo, en el cursor: en aquello que se desplaza a través del mapa.
Por eso es fundamental plantearnos qué tecnologías queremos utilizar y cómo podríamos diseñarlas de otro modo, tal vez buscando una mayor conexión con lo que nos rodea. Tal como están planteadas hoy no creo que sea la dirección adecuada: no contribuyen a los fines ni a los valores que consideramos esenciales como seres humanos.
Mark Coeckelbergh, en el Festival de las Ideas
**Hace años predominaba una visión optimista sobre el impacto democratizador de la tecnología, pero hoy parece alejarse de nuestros fines humanos. ¿Podemos mantener el optimismo sobre el desarrollo de la inteligencia artificial como una herramienta para extender nuestro cuerpo?**
No me parece mal usar la tecnología para extender el cuerpo, pero la cuestión es qué pretendemos lograr con ello. En estos momentos existe dentro del propio sector tecnológico una corriente que más bien niega el cuerpo, que busca escapar de él. Esto enlaza con una pulsión más amplia: una suerte de huida de la Tierra y de nuestra condición terrenal y física; un intento de eludir esa vulnerabilidad que, paradójicamente, es la que hace posible nuestra propia humanidad y los valores que apreciamos.
> En estos momentos existe dentro del propio sector tecnológico una corriente que niega el cuerpo, que busca escapar de él
Creo que debemos hacer frente a esta deriva de la industria y resistirnos a ella. Es necesario plantearnos cómo garantizar un desarrollo técnico que amplíe el cuerpo y la mente sin alienarnos de la naturaleza, reconociendo que siempre existen límites y que no podemos empujarlos indefinidamente.
**Ha habido un gran debate sobre la** tecnología en las aulas**tras la publicación de los resultados del informe PISA, por su impacto en la atención y el rendimiento escolar. Hay voces que defienden que habría que sacar completamente las pantallas de las aulas, ¿está de acuerdo?**
No lo tengo tan claro. Por supuesto que existe un problema y, en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos. El problema radica tanto en las herramientas en sí como en el modo en que las utilizamos. Con la inteligencia artificial y los modelos de lenguaje (LLM), por ejemplo, puedes pedirles que te escriban un trabajo entero, pero también puedes utilizarlos como un asistente, sin que lleguen a sustituir tus propias competencias ni tu pensamiento.
> Por supuesto que existe un problema [en las aulas] y en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos
Por eso creo que lo fundamental es, por un lado, garantizar el espacio necesario para entrenar esas capacidades en las aulas a todos los niveles (incluida la universidad, que también se está viendo muy afectada por esto) y, por otro, enseñar a usar la tecnología con inteligencia: no para reemplazarlo todo, sino para facilitar tareas, fomentando una postura crítica hacia ella.
Para lograrlo es imprescindible formar también a los docentes. Como sociedad nos falta investigación y experiencia sobre cómo gestionar este cambio y definir buenas prácticas educativas e investigadoras con la IA. Estamos solo al principio de ese camino. En el pasado ya ocurrió con otros medios, como la televisión: suscitó muchísima preocupación, pero aprendimos a integrarla y los efectos negativos resultaron ser menores de lo que se temía en un inicio. Creo que con la IA pasará algo similar, pero tenemos que actuar de forma proactiva porque el avance es vertiginoso. Necesitamos repensar de verdad la educación a la luz de estas tecnologías.
**Solemos fijarnos en lo que los jóvenes pierden frente a las pantallas, como la capacidad de atención. Pero, ¿podrían estar adquiriendo habilidades que las generaciones anteriores no tenían?**
Sin duda se abren oportunidades. Ahora mismo, por ejemplo, estoy escribiendo sobre IA y creatividad, y el debate es idéntico: hay quien afirma que destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos. En ese terreno soy bastante más optimista.
> Hay quien afirma que [la IA] destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos
Eso exige que experimentemos, que probemos y que nos fijemos en los artistas que ya la integran de maneras que, además de plantear una mirada crítica sobre sus aspectos negativos, abren nuevas posibilidades. Hoy resulta fascinante poder generar con IA material audiovisual con un impacto inmediato en el mundo y orientado a fines muy positivos. Debemos ser capaces de aprovechar estas oportunidades y ensayar nuevos caminos, por supuesto sin perder de vista los dilemas éticos y políticos.
**Usted forma parte del panel de expertos de la ONU sobre los riesgos de la inteligencia artificial. ¿Qué lectura hace de la vorágine de estas últimas dos semanas, tras las advertencias de miembros de la industria de la IA de que está podría** "matarnos a todos antes de 2030"**?**
Es un fenómeno interesante, no tanto por lo que ha ocurrido a nivel técnico, sino por la reacción social y la forma en que lo presenta el propio sector. Desde el punto de vista técnico es indudable que existen problemas con sistemas que no respetan los límites establecidos; de hecho, en el panel de la ONU trabajamos sobre estas cuestiones. Sin embargo, lo que me llama la atención de la narrativa que surge de las grandes tecnológicas es que se plantee como el principio del fin del mundo. Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software.
El problema radica en que estos líderes presentan la tecnología como si siguiera un camino predestinado ante el cual no podemos intervenir. En mi opinión, responde a una estrategia de marketing para acaparar atención: el mensaje implícito es “mirad lo poderosa que es nuestra tecnología”. Además, si proclamas que el gran peligro reside en tu creación, te reservas también el papel de presentarte como el único capaz de aportar la solución. Lo interpreto como una maniobra para acumular todavía más poder sobre nuestro futuro tecnológico.
> Nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada
En una democracia esto resulta inaceptable. Deberíamos garantizar que la ciudadanía y los representantes políticos tengan voz y voto en la dirección que toma este desarrollo. No creo en absoluto que nos dirijamos hacia el fin del mundo en un sentido apocalíptico; nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada, mientras la inmensa mayoría saldrá perdiendo si no actuamos ya. El verdadero problema es de desigualdad y de justicia: un dilema de fondo para la democracia y para todos nosotros.
Mark Coeckelbergh, en el Festival de las Ideas
**¿En qué consiste exactamente esa maniobra para acumular más poder y qué posición buscan ocupar?**
Quieren ser ellos quienes decidan sobre la tecnología, pero no solo sobre el desarrollo técnico en sí, sino también sobre su regulación. Para ello se aseguran de tejer buenas conexiones, en este caso con la Administración Trump, y determinar tanto la tecnología como las leyes y su modo de inserción en la sociedad. Del mismo modo, intentan influir sobre la clase política en Europa.
A esto se suma su respaldo al uso militar de la inteligencia artificial. No estamos ante un escenario de ciencia ficción tipo _Terminator_ en el que las máquinas tomen el mando; lo que realmente está ocurriendo es que hay seres humanos decidiendo utilizar la IA para matanzas a gran escala. Y esto es un peligro para todos, porque lo que hace la IA en esos contextos es, por ejemplo, automatizar la selección de objetivos. En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar.
> En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar
En ese sentido veo una deriva evidente hacia una mayor concentración de poder y hacia un sesgo marcadamente autoritario donde, al igual que ocurrió en su momento con la energía nuclear, la ciudadanía apenas tiene nada que decir. Como democracias, también en Europa, debemos recuperar el control. Y no recuperarlo frente a la IA, sino frente a los _tech bros_.
**¿Qué puede hacer Europa en este escenario, atrapada entre el empuje de Silicon Valley y la regulación de Washington, sin un gran campeón tecnológico propio capaz de materializar nuestros valores?**
Como europeos podemos elegir qué tecnologías compramos, por ejemplo en los ámbitos de defensa y seguridad. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala. Esa es una decisión puramente humana de ciertos dirigentes en Europa, aunque por fortuna no todos actúan igual.
> Como europeos podemos elegir qué tecnologías compramos. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala
Por otra parte, cabe preguntarse por qué tenemos que esperar siempre a la última tecnología que llegue de Silicon Valley o de China cuando podemos desarrollar la nuestra propia. Es un gran reto: en Europa existe consenso sobre la necesidad de hacerlo, pero construir un producto de uso masivo es algo muy distinto. No basta con que sea puntero a nivel de investigación teórica o novedad técnica; tiene que funcionar en términos de innovación real y de adopción en el mercado.
Sigue siendo un desafío pendiente, pero al final es la única vía. Solo así podremos incorporar nuestros valores y nuestras exigencias éticas, sin necesidad de comprarnos todas las patrañas que nos venden desde Silicon Valley.
**Si reducimos estas alarmas a una mera estrategia de marketing, ¿existe el peligro de que pasemos por alto los riesgos reales de la inteligencia artificial?**
Por supuesto. La investigación sobre estos riesgos específicos y sobre seguridad debe continuar. En ese sentido es fundamental seguir generando conocimiento (tanto desde el panel de la ONU como a escala nacional) para categorizar los riesgos y determinar cómo abordarlos.
Todavía no está del todo claro cuál es la mejor respuesta, ni siquiera dentro de nuestro propio panel. Existen diferentes enfoques en la gestión de riesgos y distintas formas de tratarlos, tanto a nivel técnico como normativo. Por eso hace falta más investigación y más tiempo.
> Limitarse a despachar el riesgo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico
Limitarse a despacharlo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico en el que se insertan estas tecnologías. Si solo nos centramos en la gestión del riesgo o en los aspectos técnicos, perderemos esa perspectiva y desaprovecharemos la oportunidad de reivindicar como sociedad que esto nos concierne a todos. No es un asunto que deba quedar solo en manos de expertos; es un debate que corresponde a la ciudadanía y a la clase política, que debe articular una visión propia. Y hoy por hoy, esa visión todavía no existe en la medida necesaria.
Un asistente escucha la traducción simultánea de la entrevista a Mark Coeckelbergh, en el Festival de las Ideas
**Uno de los mayores riesgos señalados por el panel de la ONU es la opacidad de las tecnológicas. Frente a propuestas como introducir observadores externos en los laboratorios, ¿cómo se puede obligar a estas empresas a operar con verdadera transparencia?**
Tener observadores externos como propone Dario Amodei puede ser una solución, pero creo que debemos plantearnos cómo conectar lo que ocurre en el ámbito privado de las empresas con la esfera pública: el espacio de la legitimidad donde la ciudadanía decide de forma democrática.
En la actualidad contamos con algunos comités asesores y ciertos trámites burocráticos, pero es fundamental articular mecanismos permanentes para que la democracia disponga de mayor transparencia e intervenga en lo que sucede en el sector. Ya sea cuestionando la propiedad privada de estas corporaciones o mediante otras fórmulas, debemos dirimir políticamente cuál tiene que ser el papel del Estado. Es un debate de gran calado, pero lo crucial es no permitir que sigan operando de este modo.
Asimismo, conviene mantener una postura crítica ante sus propias ofertas de colaboración: existe el riesgo de que manipulen de nuevo el relato de cara al exterior y sigamos sin saber qué ocurre realmente dentro. Por eso necesitamos ese tipo de supervisión y también un periodismo de investigación riguroso que indague en lo que sucede entre bastidores, de modo que la sociedad esté informada y podamos debatir sobre ello con criterio.
**Con la proliferación de contenidos sintéticos generados por IA, donde textos, imágenes o interlocutores pueden no ser reales, ¿estamos perdiendo el contacto con una realidad compartida?**
En este caso sí perdemos el contacto con esa realidad compartida. Si ya no podemos confiar en lo que es real y lo que es falso, dejamos de saber cuál es la realidad que compartimos; y la democracia necesita esa base común, por lo que supone un problema grave.
Por otro lado, la tecnología también puede ayudarnos a recuperar el contacto con la realidad. En principio puede mostrarnos el sufrimiento de otras personas o de animales que están lejos de nosotros, abrirnos a una perspectiva del mundo más compleja que la inmediata y ayudarnos a conectar con los demás. El desarrollo no tiene por qué conducir necesariamente al aislamiento.
Sin embargo, necesitamos moldear la IA, las redes sociales y todo el entorno comunicativo para disipar esta incertidumbre constante. La forma de lograrlo es un debate complejo, pero ahora mismo avanzamos demasiado hacia un escenario donde la falta de certeza impide tener un suelo común. En términos políticos, para una democracia resulta crucial saber de qué estamos hablando y evitar que cada uno quede encerrado en su propio mundo, en su propia burbuja.
**Quizá sea la pregunta más difícil de todas: ¿cómo se consigue eso?**
Es una pregunta muy compleja. No creo que exista una solución mágica, pero pasa, por ejemplo, por regular las redes sociales de forma específica para que resulte más difícil propagar este tipo de desinformación.
También necesitamos, una vez más, apoyarnos en la educación: formar a una ciudadanía más crítica con lo que ve y consciente de la necesidad de preservar un espacio común y construir un mundo compartido. Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas.
> Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas
El individualismo que impera en nuestra sociedad no es únicamente responsabilidad de ciertos malos actores; forma parte de nuestra propia cultura. Debemos virar hacia una dirección donde lo común recupere su valor, no a través de un colectivismo opresivo, sino mediante un enfoque relacional: una educación y un entorno donde volvamos a conversar y a construir en común, en vez de depender de tecnologías políticas que nos dividen.
**Ante un avance técnico tan acelerado que desborda a tanta gente, ¿qué deberíamos preservar como seres humanos frente a las tecnologías que vienen? ¿Qué es lo que no deberíamos perder nunca?**
El ritmo es vertiginoso. Frenar no me parece un objetivo realista si nos referimos al desarrollo técnico en sí mismo, pero sí podemos desacelerar introduciendo más reflexión ética y una mayor evaluación de las tecnologías.
Para lograrlo debemos reconectar con nuestras tradiciones y con aquellos principios que sabemos valiosos, con lo que de verdad importa, procurando diseñar tecnologías que respalden esos valores y esos fines. Solo así avanzaremos en la dirección correcta.
Pero esto únicamente será posible si asumimos (volviendo al inicio de nuestra conversación) que ver la tecnología como un simple instrumento no es suficiente. Tenemos que entenderla como algo indisociable de nuestros valores y de la dimensión política, integrándola con seriedad en las grandes preguntas de fondo: qué define una buena vida desde el punto de vista ético y qué clase de vida política podemos construir juntos.
