alvarobayon.com
Auge y colapso: una hipótesis ecológica de la inteligencia artificial generativa
Este artículo va sobre inteligencia artificial generativa (IAGen, desde ahora). Pero, por supuesto, yo no soy experto en IAGen, ni muchísimo menos. Soy experto en ecología. Y a riesgo de parecer un cuñado apoyando el codo en la barra de un bar, creo tener una predicción verosímil sobre lo que va a pasar con la IAGen de aquí a un tiempo.
Pero antes, permitidme que me explique.
Mucha gente cree que la ecología es una rama bastante escueta de la ciencia. Que se basa en analizar el funcionamiento de los ecosistemas, y ya. Pero hay algo que esta definición tan encorsetada pasa por alto. La ecología es, ante todo, la ciencia de las interconexiones. Es muy útil para estudiar bosques o arrecifes, sin duda, pero su verdadera potencia reside en su marco conceptual más puro: es una ciencia que estudia sistemas complejos, donde múltiples elementos interactúan de formas dinámicas y a menudo impredecibles, en patrones complejos.
El pensamiento ecológico se centra en las redes, los flujos, la resiliencia, las relaciones de interdependencia y equilibrios dinámicos, y es una lente poderosa que va más allá de los aspectos puramente biológicos. Las mismas leyes y teorías que rigen el comportamiento de los ecosistemas pueden aplicarse a otro tipo de sistemas. Hoy voy a aplicar ese pensamiento ecológico a un tema de actualidad. A las IAGen, claro.
## No existe el crecimiento infinito en un sistema finito
La función matemática que designa el crecimiento de una población en el tiempo es algo que se estudia en Bachillerato. Asumiendo recursos ilimitados, la función es exponencial, es decir, de este tipo:
Ecuacion de crecimiento logarítmico
Donde «P(t)» es la población total en el tiempo “t”, «P0» es la población inicial y «a» es la tasa de crecimiento de la población. La gráfica resultante tiene esta pinta (los números son de ejemplo).
Curva de crecimiento logarítmico. Números de ejemplo.
Pero, importante, esta función solo se cumple cuando los recursos son ilimitados. Pero en el planeta Tierra, todos los recursos son finitos, incluso aquellos renovables tienen un límite físico en el tiempo que no se puede sobrepasar. Eso implica que nuestra función inicial es falsa en el mundo real.
El límite de recursos que un sistema puede aportar define, de facto, la población máxima que el sistema puede soportar. A este valor de población máxima se le conoce como capacidad de carga (K). Si la población se encuentra significativamente por debajo del valor K, entonces aún tiene recursos de sobra y puede crecer de una forma cercana a la función exponencial. Pero a medida que se va acercando a esa población máxima, el crecimiento se va haciendo más lineal, hasta que se estanca y se aplana.
Curva exponencial (en rojo) y sigmoide o logística (en azul). Números de ejemplo.
Lo que veis en la gráfica (con números de ejemplo) en color azul. El valor “K”, que en la gráfica es 120, representa una asíntota de la función, es decir, un valor al que se acerca infinitesimalmente sin llegar nunca a tocar.
Así, la función de crecimiento adquiere una nueva forma, llamada sigmoide o función logística, que es mucho más compleja, y que os la dejo solo por si queréis saciar vuestra curiosidad:
Función sigmoide o logística
El caso es que esta función sigmoide, que insisto, representa el crecimiento de una población sujeta a recursos limitados, no solo la podemos observar en el crecimiento de bacterias en una placa de Petri, de peces en una piscifactoría o de conejos en un bosque. Es la misma pinta que tiene el crecimiento de cualquier cosa que crezca.
Si pensamos en el avance de una tecnología, el patrón es similar (1, 2) (). Un inicio exponencial, que parece muy prometedor, un tiempo en que el crecimiento se hace lineal, y tras un período de maduración, una fase de estancamiento donde ya no se crece, solo se sostiene.
Por supuesto, al igual que sucede en los ecosistemas, el crecimiento puede reanudarse o, incluso, regresar a una fase exponencial, si se dan determinados eventos que lo permitan; por ejemplo, encontrar nuevas fuentes de recursos o mejorar la eficiencia de su uso, cosas que aumenten la capacidad de carga del sistema —con una «K» más grande, la asíntota se me va más lejos y puedo seguir creciendo—, o bien, que suceda un desastre que reduzca drásticamente la población, de modo que se aleje del valor «K» y pueda volver a crecer.
¿Y qué pasa con la IAGen? Muchos gurús de los loros estocásticos pronostican un crecimiento exponencial. No es raro escuchar decir a esa gente que «esto cada vez irá a más». Sin embargo, sabemos que ese pronóstico es irreal.
## La IAGen no crecerá para siempre
Al igual que cualquier otro sistema sujeto a restricciones —tanto materiales como sociales—, la IAGen existe dentro de un ecosistema con una capacidad de carga finita. Su crecimiento no está limitado por el pasto o por la intensidad de luz solar, pero sí lo está por otro tipo de recursos: el agua, la energía disponible, el capital de inversión, la disponibilidad y calidad de datos de entrenamiento, la potencia de computación…
El hábitat de la IAGen tiene límites físicos y económicos. El coste energético y la huella ambiental asociado choca con una realidad medioambiental muy incómoda. Vivimos en un mundo que está sumido en una crisis climática global, y las políticas extractivistas masivas solo tienen dos posibles finales: o se abandonan, o provocan el colapso del sistema. Ninguna de las dos augura un buen futuro para una de las tecnologías que más ha incrementado su impacto ambiental, tanto en demanda energética como en consumo de agua y emisiones de gases de efecto invernadero, en el último lustro. Y eso solo si nos quedamos con los recursos naturales. La IA también necesita datos, chips, capital…
La trayectoria más plausible para la IAGen no es una curva exponencial eterna, sino una curva sigmoide. Estamos posiblemente en la fase de crecimiento acelerado, donde los recursos aún parecen abundantes. Pero la madurez y el subsiguiente aplanamiento llegarán. Y si no llegan pronto, quizá el sistema no pueda soportar ese crecimiento desmedido, y termine colapsando.
No obstante, tengo un buen motivo para creer que la IA generativa colapsará por si misma antes de que se derrumbe el sistema al completo. Y es que existe una amenaza aún más insidiosa para la IAGen que los límites físicos externos. Un proceso que tiene que ver con la contaminación en los alimentos. Para entenderlo, debemos volver a la ecología.
## Bioacumulación y biomagnificación
El estudio de los ecosistemas es el estudio de las relaciones entre organismos. Y una de las relaciones más importantes es la trófica, el «quién se come a quién». Hay muchos principios, leyes y teorías en torno a las relaciones tróficas. Solo por citar algunos ejemplos:
* La ley del diezmo ecológico, que establece que cada nivel trófico aporta aproximadamente el 10 % de su energía al nivel trófico superior; esto explica por qué en un bosque hay más plantas que herbívoros, y más herbívoros que carnívoros.
* El modelo de Lotka-Volterra, que define la dinámica poblacional derivada de la relación entre un depredador y su presa.
* El modelo de cascada trófica, que establece cómo los niveles altos de una pirámide trófica afectan, mediante su comportamiento, a los niveles más bajos.
* La hipótesis de la reina roja, que explica cómo las dinámicas tróficas terminan generando efectos evolutivos a largo plazo.
Habrá más días para tratar todos esos temas, que son de lo más interesante. Pero hoy me voy a centrar en dos fenómenos mucho más relevantes para el asunto que busco tratar: la bioacumulación y la biomagnificación.
Se conoce como bioacumulación al proceso por el cual un ser vivo consume un contaminante presente en el medio y, siendo incapaz de eliminarlo de su organismo, el contaminante se acumula en el cuerpo a lo largo de toda su vida. Es lo que pasa, por ejemplo, con algunos metales pesados en el mar. Los organismos consumen esos contaminantes, y su cuerpo no puede eliminarlos, así que se quedan ahí de por vida.
La biomagnificación es aún peor. Cuando un ser vivo se come a otro, la mayor parte de la materia que compone al organismo consumido se emplea para obtener energía, y solo una pequeña parte se convierte en materia nueva —esto se relaciona con el diezmo ecológico que dije antes—. Pero todo el contaminante se acumula, no se puede eliminar.
Así que mientras un pequeño camarón filtrador solo acumula el mercurio que obtiene de su entorno, un pequeño arenque que se alimente de camarones va a adquirir todo el mercurio que todos los camarones de los que se haya alimentado hayan almacenado a lo largo de sus respectivas vidas. Si tenemos caballas que se alimentan de arenques, estas acumulan el mercurio de los arenques. Si luego el atun se alimenta de caballas, acumula el mercurio de estas. Así, cuanto más arriba esté un animal en la pirámide trófica, más cantidad de contaminante tendrá en su organismo.
Es decir, que los contaminantes se magnifican a medida que suben pisos de la pirámide.
Biomagnificación. Fuente.
¿Y qué tiene que ver todo esto con la IA?
### La ~~alucinaci ón~~… fabulación de las IAGen
Para las eminencias de la IAGen, una “alucinación” es un dato falso o no verificado que una IAGen vomita con plena convicción. Hace poco, alguien me abrió los ojos sobre este tema: el término «alucinación» es terriblemente confuso, porque antropomorfa a los robots. Solo los organismos capaces de pensar, razonar y tener conciencia pueden sufrir alucinaciones, y la IAGen no cumple esos requisitos. Lo que hacen las IAGen es fabular, generar relatos falsos que expone como si fueran ciertos. Así que desde ahora yo al fenómeno lo llamaré «fabulación».
La fabulación es un problema intrínseco a su arquitectura: como no dejan de ser loros escolásticos —eligen las palabras más probables para continuar una cadena de palabras previa—, no saben cuando algo es cierto o falso. De hecho, ni siquiera “saben”, así en general.
El caso es que las fabulaciones de la IAGen son muy problemáticas, porque la gente tiende a creerse con más facilidad lo que dice una máquina que lo que dice una persona. Acostumbrados a las calculadoras, que no se equivocan casi nunca —y cuando lo hacen es en operaciones muy especificas que podemos analizar e inventariar— extrapolamos esa premisa a todo resultado de máquina… con la diferencia de que la calculadora es determinista —ante un mismo conjunto de datos de entrada, siempre da el mismo resultado, y casi siempre, el correcto— mientras que las IAGen son máquinas estocásticas, predicen cuál es el resultado más probable basándose en la cadena de datos previa, pero al trabajar en términos probabilísticos, un mismo prompt en dos conversaciones separadas puede dar resultados distintos. Y cuando la estocasticidad entra en juego, cuando tenemos variabilidad, inevitablemente existe el riesgo de arrastrar errores y sesgos. Y como son resultados impredecibles, estos errores y sesgos no pueden inventariarse.
Vamos al meollo. La cuestión es que, al parecer, las IAGen están experimentando un aumento en las fabulaciones en cada nuevo modelo que sacan, y no una disminución, como cabría esperar si lo que se busca es mejorar el modelo. En otras palabras, cada nuevo modelo de loro estocástico fabula más que el anterior. El caso es que antes de que saliesen al gran público —con ChatGPT 3 a finales de 2022—, los modelos previos fabulaban más. Es decir, que el modelo con menos fabulaciones fue, en realidad, aquel ChatGPT 3.
Y los sumos sacerdotes _technobros_ del Valle del Silicio no saben por qué. O al menos dicen no saberlo.
Aquí mi hipótesis…
## La magnificación trófica de la mierdificación: una hipótesis ecológica
¿Podemos asociar el problema de la fabulación de las IAGen con el fenómeno trófico de la biomagnificación? Yo creo que sí. De hecho, se me antoja la conclusión más plausible.
Analicemos un momento el ecosistema en el que nos encontramos.
El contaminante aquí es la fabulación. Entendámos la de forma amplia: el dato erróneo, el sesgo estructural, la relación espuria presentada como verdad, las construcciones frasales reiterativas y simplonas —«no solo… sino también…»—, el abuso de los emojis para hacer listados…
La cadena trófica es la red de entrenamiento de modelos. Los modelos base se alimentan de datos crudos de internet, que han sido creados por seres humanos. El ser humano es, pues, el productor, y sus textos son la materia prima que obtiene el modelo, que será el consumidor primario, que genera su propia materia prima. La primera generación de artículos, imágenes y demás basura generada por IA desde finales de 2022.
Sin embargo, con la llegada de los nuevos modelos, los datos sintéticos generados por los modelos anteriores pasan a ser, también, alimento. Los nuevos modelos son, así, consumidores secundarios que se alimentan de todo lo anterior, sin discriminar su origen.
Si este proceso se repite y vamos acumulando modelos que se alimentan de outputs de otros modelos, estamos ante un escenario de biomagnificación. El error humano original, sumado al efecto estocástico, genera las primeras fabulaciones; los nuevos modelos acumulan esos errores como materia prima, para generar otros nuevos, y a medida que subimos escalones en la pirámide el contaminante se magnifica.
Los errores cada vez se exhiben más, mierdificando todo el ecosistema e intoxicando, por mera canibalización de datos, a los modelos subsiguientes.
No, grandísimo monstruo, devorarse a si mismo no es una buena idea. Fuente.
No estamos condenados a un colapso seguro –eso depende más de lo que se decida hacer—, pero sí es recomendable actuar con los principios de la ecología en mente. El crecimiento descontrolado y la sobreexplotación de recursos llevan al agotamiento. La contaminación del entorno informacional con fabulaciones magnificadas lleva a la toxicidad sistémica.
El pensamiento ecológico se centra en las redes, los flujos, la resiliencia, las relaciones de interdependencia y equilibrios dinámicos. Aplicar un pensamiento ecológico, más allá de la ecología, es un ejercicio que nos permite hacer inferencias y deducciones a una escala amplia, más allá de análisis pormenorizados al detalle.
La verdadera inteligencia, la natural, que es en realidad la única que exite, podría ser la de reconocer que incluso la tecnología más avanzada está sujeta a las leyes y fundamentos que rigen todo sistema complejo. E ignorarlas es garantía de crisis.
