Los límites inéditos de la automejora recursiva

Seamos realistas: pidamos lo imposible

Uno de los sueños más viejos del ser humano ha sido desarrollar una inteligencia semejante a la suya, fantaseando con hacerla consciente y experimentar lo que supone crear alteridad, un otro al que dirigirnos. Pero la inteligencia para resolver problemas tenía además un especial aliciente porque el tiempo es el único recurso que no puede reponerse, y la inteligencia lo ahorra. De modo que, como el afán tecnológico siempre ha sido ganar vida, la tecnología acabaría haciendo suyo ese sueño. La cuestión es que, en ese sueño, siempre hubo un temor larvado, una pesadilla germinal que imaginaba que esa inteligencia podría llegar a disputarnos la vida e incluso a superarnos hasta mejorarse a sí misma de forma recursiva.

Muchos hombres han percibido un pecado en esta pretensión. La hybris de los griegos advierte esta arrogancia transgresora de los límites impuestos por los dioses a los hombres. Y desde las míticas figuras del Golem y Prometeo hasta la de Frankenstein, la amenaza cobró distintas formas con consecuencias terribles para semejante temeridad. El personaje de Shelley — compuesto mediante la fisiología anatómica y la ciencia oscura de la electricidad —, inauguró probablemente la primera versión tecnocientífica de este temor, ligada a la Revolución Industrial. La última revolución de la información, por su parte, ha coagulado su propia versión con la Singularidad, esa imprevisible explosión de inteligencia autónoma digital, que ha alimentado el discurso apocalíptico hasta la precisión matemática de incluso fechar su inminente llegada como un riesgo existencial para la humanidad.

Sin embargo, más allá de que un buitre tecnológico y persistente nos acabe devorando las entrañas como a Prometeo o que una fábrica de sujetapapeles como la de Bostrom nos acabe convirtiendo a todos en material de oficina, quizá exista otro castigo más sutil, más sibilino, que se inflige como negación, como límite impenitente sobre los sueños húmedos de los aceleracionistas tecnoutópicos, enredándoles — como en ciertos círculos del infierno de Dante — en acaloradas discusiones sobre la Singularidad, mientras esta posterga indefinidamente su llegada.

Maniobra de aproximación al horizonte

A mediados del siglo pasado, cuando la cibernética de los bucles de realimentación de Wiener se consolidaba, Von Neuman ya se fijó en el ritmo de aceleración del progreso tecnológico que parecía aproximarse a una “singularidad esencial” tras la cual los asuntos humanos ya no podrían continuar tal y como los conocíamos. En los años sesenta, I. J. Good profundizó en esa idea al identificar el mecanismo de esa explosión: una máquina ultrainteligente, capaz de superar cualquier actividad intelectual humana y, por ello mismo, de diseñar máquinas todavía mejores. Sería “el último invento que el ser humano necesitaría realizar, siempre que fuera lo bastante dócil como para ayudarnos a mantenerla bajo control.” Las investigaciones en inteligencia artificial formaban el paradigma que mejor encarnaba esa andadura.

Tras la resaca del primer invierno de la IA de los años setenta, Vernor Vinge devolvió popularidad a la Singularidad asociándola a la lógica astronómica de los agujeros negros. Nuestra época como especie culmen de la inteligencia natural estaría llegando a su fin y, más allá de cierto umbral, nuestros modelos dejarían de servirnos para anticipar lo que vendría después, del mismo modo que el horizonte de sucesos de un agujero negro impide observar lo que ocurre al otro lado. Le sorprendería — dijo a mediados de los noventa — que ese acontecimiento sucediera antes de 2005 o después de 2030. Nos queda presuntamente poco.

La cosa de nuevo pareció arrinconarse en la ciencia ficción, especialmente tras el segundo invierno de la inteligencia artificial y el desencanto tecnológico que siguió a la crisis de las puntocom con el cambio de milenio. Sin embargo, Ray Kurzweil resucitó el protagonismo público de la idea con The Singularity Is Near en 2005: apelando a la “ley de los rendimientos acelerados”, observó que las tecnologías no progresan de manera lineal porque cada generación de herramientas facilita la creación de la siguiente. Fechó en 2029 el advenimiento de la inteligencia equivalente a la humana y en 2045 la singularidad. Y, al calor de la revolución del deep learning en la que llevamos inmersos unos tres lustros, Nick Bostrom trasladó el problema hacia el control, preguntándose qué ocurrirá cuando aparezca un sistema con una capacidad semejante. En Superintelligence señaló que una inteligencia superior no tendrá por qué compartir nuestros fines — podría lastimarnos a propósito, sin querer o pasar de nosotros como nosotros hacemos de las moscas, entre otros escenarios — pero, en cualquier caso, advirtió que controlar sus objetivos y comportamientos — alinearla — podría ser mucho más difícil que aumentar sus capacidades. Como para que un hipotético y todopoderoso maximizador de sujetapapeles o clips persistiera incorruptible en cumplir su función hasta fagocitarnos.

La cuenta atrás hacia la Singularidad de Kurzweil y el maximizador de clips de Bostrom

Toda esta retórica ha ido alimentando a los AI-doomers, ese movimiento apocalíptico obsesionado con la IA en los márgenes del racionalismo y capitaneado en buena medida por Eliezer Yudkowsky, pero que se remonta, al menos, a historias como la novela Erewhon de Butler de finales del XIX. Y así, aquella extravagancia confinada durante años en algunos reductos de la ciencia ficción, el transhumanismo y algunos círculos filosóficos que llegaron hasta Silicon Valley, ha comenzado a adquirir una inquietante respetabilidad, en positivo, con las proclamas triunfalistas de los líderes de la IA de frontera jugando a fechar el hito de su aparición; y en sentido negativo, especialmente a través del poderoso vehículo del miedo en las advertencias crecientes de investigadores pertenecientes a los principales laboratorios, que han llegado a renunciar a sus millonarios puestos alertando por la pérdida de control, la automejora recursiva y el riesgo existencial.

La lista de renuncias va engrosándose desde el simbólico caso de Geoffrey Hinton, una de las figuras decisivas del aprendizaje profundo y premio Nobel por ello. En mayo de 2023 dejó Google para poder hablar públicamente de los riesgos de la inteligencia artificial sin tener que calcular cómo afectarían sus palabras a la compañía. Explicó que durante mucho tiempo había situado muy lejos la posibilidad de que las máquinas llegaran a ser más inteligentes que nosotros, pero que el rápido progreso de los nuevos modelos le había obligado a revisar esa convicción. Nunca acusó de irresponsabilidad a Google — cuya actuación llegó a defender expresamente — pero se retiró para poder advertir con libertad sobre la desinformación, la sustitución laboral, la carrera entre laboratorios y la eventual dificultad de controlar sistemas superiores a sus creadores.

El halo enigmático fue creciendo con otra marcha, la de Ilya Sutskever, cofundador y científico jefe de OpenAI, en mayo de 2024. Su participación en el intento de destituir a Sam Altman unos meses antes — supuestamente por discrepancias sobre el control y la seguridad de los modelos —, seguida de su silencio y finalmente de su salida, alimentó la pregunta inevitable: ¿qué había visto uno de los investigadores con mayor acceso al desarrollo de frontera? Su marcha coincidió con la desaparición del equipo de superalineamiento y con la renuncia de su codirector, Jan Leike, quien sí afirmó expresamente que la cultura y los procesos de seguridad habían quedado relegados frente a productos más vistosos. Les siguió Daniel Kokotajlo, antiguo investigador de gobernanza en OpenAI, que abandonó su cargo señalando públicamente el peligro de escenarios en los que la competición entre empresas y Estados empuja a recortar precauciones, especialmente ante un crecimiento súper-exponencial.

Hace unos días, en un nuevo episodio, Jacob Coxon, después de trabajar durante tres años en investigación de preentrenamiento dentro de OpenAI y Anthropic, la empresa por excelencia preocupada por el impacto de la IA en lo humano, anunció su dimisión de esta última. Acusó a ambas compañías de avanzar directamente hacia una superinteligencia capaz de mejorarse a sí misma y de estar, en sus palabras, “jugando con nuestras vidas”. Sin señalar negligencias concretas, apuntó a una trampa colectiva sistémica de los laboratorios, un dilema del prisionero alimentado por el miedo a que otro llegue primero. La advertencia adquirió mayor peso cuando Evan Hubinger, responsable de ciencia del alineamiento en Anthropic, respaldó públicamente su preocupación, reconociendo que no existe un plan para resolver el alineamiento de una eventual superinteligencia y su aparición mediante automejora recursiva parece factible. Hay más de un diez por ciento de probabilidad — estimó — de que la inteligencia artificial provoque la extinción humana durante la década siguiente.

No es el primero ni el último caso. Cada vez más desarrolladores creen que su tecnología podría causar la extinción humana y se ven aupados por renuncias de este tipo. Un peligro especialmente considerable si se adentran en ese horizonte inexplorado y opaco por definición de la recursividad no supervisada, y justificado porque mantener al humano en el bucle comienza a ser un retraso inasumible cuando no limitante en esta carrera.

Ciertamente, el efecto acumulado de estas voces no demuestra que la singularidad esté cerca, ni que quienes trabajan en las compañías dispongan de una revelación inaccesible para el resto del mundo. Estas polémicas pueden en realidad responder a desacuerdos técnicos o científicos, conflictos de gobernanza, diferencias éticas, decisiones personales muy distintas o extrañas estrategias de marketing para captar financiación. Aunque Wall Street suele demandar estabilidad, y con los números recientemente presentados tengo serias dudas de que una IPO acabe siendo respaldada, la estabilidad no es imprescindible para seguir levantando pantagruélicas rondas de inversión.

El caso es que el discurso ha ganado fuerza más allá del planteamiento especulativo de escritores de ciencia ficción o de filósofos, porque ha encontrado portavoces más cualificados entre quienes han entrenado los modelos, dirigido sus equipos de seguridad o tratado de comprender lo que ocurre dentro de ellos. La vieja extravagancia inflamada como hipérbole ha ensanchado la ventana de Overton para comenzar a hablar de ello como algo políticamente discutible.

Además, el miedo encuentra un acelerante en los deslumbrantes hallazgos recientes en matemáticas y los ataques más recientes interpretados en términos antropomorfos que han reactivado la cuestión sobre la incapacidad para controlar todo el espectro de posibles comportamientos desalineados que, aunque no alcancen esa singularidad, puedan provocar algún tipo de catástrofe proyectada hacia el futuro como una potencial aniquilación completa. Parece que algunos laboratorios, en su afán por seguir mejorando los modelos en su encarnizada competencia, han probado a soltar las riendas del control de la cadena de pensamiento, a cerrar la pequeña rendija por la que todavía observábamos a las ya de por sí opacas capas de redes neuronales y ver qué pasa. Al mirar para otro lado, y dejar que el modelo delibere sin pronunciarse, estas redes con capacidades de agencia sorprendentes y que podrían estar comenzando en cierto sentido a hablar “neuralés”, han copado el protagonismo de portadas en medios, reverberando con aquella idea de que podríamos estar adentrándonos en ese horizonte de sucesos si les acabamos concediendo además la capacidad de reprogramarse y mejorarse a sí mismas. Parafraseando a William Gibson, varios andan repitiendo que la singularidad ya está aquí, solo que está distribuida de forma desigual.

En los últimos días, los líderes de las principales compañías de IA como Anthropic, OpenAI o XAI, supuestamente concernidos y acaso asustados, acaban de alinearse para solicitar una moderación y un control en el desarrollo de estas IA de frontera que les saque coordinadamente de una carrera que puede resultar catastrófica, bajo la amenaza además de la pujanza china. Solicitud que no solo se ha tomado con alerta o con escepticismo entre la población, sino que ha sido desestimada por líderes políticos de las dos grandes potencias que se disputan la supremacía en IA, tanto en la Casa Blanca como en Pekín. Trump les conminaba estos días a que se autorregulen y vigilen mutuamente.

Y entre todos los motivos de sobre riesgos de ciberseguridad, desalineamiento general, captura regulatoria, competencia con modelos abiertos o pugna geopolítica, se ha reclamado la moderación y control del desarrollo de frontera explícitamente ante el impredecible destino al que pueda conducirnos, una vez más, la automejora recursiva (RSI, por sus siglas en inglés). Incluso Google, el gigante tecnológico que parecía haber perdido fuerza en esta carrera frente a OpenAI o Anthropic, parece haber dado señales recientes que apuntan a que podría haber dado con la tecla de la RSI logrando un sorpasso en el sprint de la recta final. Anthropic, mientras, habla abiertamente de cómo el liderazgo en el trabajo de investigación y de desarrollo sobre sus propios modelos de forma automatizada, sin intervención humana, ya está creciendo a un ritmo vertiginoso.

Fuente

Seamos realistas: pidamos lo imposible

Hace milenios que los presocráticos reflexionaron sobre lo real y acabaron acudiendo al concepto de límite para comprender la realidad. En particular, Anaximandro consideró que el principio fundante de toda realidad no se halla en ningún elemento concreto de la naturaleza, como el agua que propuso Tales, sino en lo ilimitado e indefinido, el ápeiron. La razón es que toda realidad natural determinada — como lo frío, lo húmedo, lo caliente,… — excluye por necesidad y se enfrenta a las demás realidades, en particular, a su contrario, y no puede por tanto dar razón de todo. La manera en que lo ilimitado se concreta es, como fijaron después los pitagóricos, con el contrario de esa ilimitación: el péras, el límite abstracto, es el que permite concretar las distintas realidades.

Estas primeras reflexiones metafísicas de la naciente filosofía occidental obedecían al intento por racionalizar una explicación de la naturaleza que no recurriera al mito. Pero, en realidad, escondían una forma alternativa de expresar la misma sabiduría humana que se había encarnado en esos mismos, paradigmáticamente en el de Prometeo: los mortales nos las hemos de atener a este mundo limitado por sus circunstancias y quienes se atreven a desafiar indebidamente sus límites acaban castigados. La desmesura — la hybris — desconoce la propia condición finita, y trata de apropiarse de un lugar que no le corresponde, pretendiendo ir más allá de su medida. Ser real quiere decir estar de alguna forma limitado. Y todo lo demás es, esta vez en sentido peyorativo, algo mitológico, aunque sea ahora bajo la forma de una singularidad inteligentísima.

Ciertamente, la tecnología forma parte del afán explorador humano dispuesto a romper, al menos, algunos de esos límites. Gracias a que ha habido múltiples prometeos a lo largo de la historia, la humanidad ha sido capaz de abandonar las cavernas y, especialmente en el último par de siglos, romper los límites de la trampa malthusiana que mantenía a su población constreñida y a su bienestar sometido por debajo del umbral de la pobreza. Pero como también ejemplificara el mito de Ícaro perdiendo plumas, es peligroso que esa ruptura ambicione dejar atrás todo límite.

Hoy, esta advertencia ya no procede de una sabiduría mitológica, ni siquiera del ludismo más conservador y reaccionario. No tiene que apelar a la trascendencia de un castigo divino sobre la soberbia humana. Procede del propio límite que hemos palpado en la naturaleza con poderosa firmeza. Sin que por ello la realidad no nos siga brindando casi infinitas posibilidades que nos resultan desconocidas para seguir desarrollándonos. Porque la realidad supera a nuestra imaginación¹.

Sin embargo, el hecho es que esa limitación también se cierne sobre nuestra propia imaginación, de la que no podemos afirmar con certeza que sea ilimitada. Por tanto, cuando la reflexión se adentra en un espacio absolutamente desconocido como el que pudiera abrir una automejora recursiva automatizada, nos adentra en la incertidumbre radical. Y desde allí la prudencia debe imperar. Sin embargo, con excesiva facilidad quienes abrazan el discurso singularista ignoran que al penetrar en dicho espacio, también desconocemos los límites que podrán hallarse en él. Y confiar en que esta RSI sabrá lidiar con todo límite es inverosímil, habida cuenta de la cantidad de nuevos límites que hemos encontrado cada vez que la humanidad ha abierto nuevas esferas ignotas. Además de los muchos límites que ya conocemos y que podrían aflorar en semejante escalada.

No menosprecio, desde luego, el hecho de que la imaginación humana haya sido sorprendentemente capaz de explorar enormes posibilidades y romper muchos límites. Cuentan que Von Braun, el inventor de los misiles V2 antesala de los transbordadores de la carrera espacial, acabó confesando que con el tiempo había aprendido a usar la palabra “imposible” con la mayor precaución. A quienes nos gusta la tecnología nos rechina esa postura refractaria y dogmáticamente descreída ante el poder de la innovación.

Y es cierto que en ese afán no sólo hay optimismo tecnológico. También hay algunos fundamentos filosóficos para legitimar nuestra capacidad para romper límites. Por ejemplo, Bergson consideraba que la conciencia humana y su capacidad creativa — como en el arte o en la innovación tecnológica — no materializan mecánicamente posibilidades de un repertorio dado, sino que las crean, fracturando la realidad, y abriendo caminos que solo retroactivamente contemplamos y nombramos como posibilidades. Quizá nunca hubo realidades potenciales que descubrir: en realidad las creamos.

También Sartre en cierto modo concebía que nuestra conciencia abre un espacio en el ser dado, macizo, aparentemente inevitable, e introduce en él la nada. Esa capacidad para la nihilizacion o nadificación — néantisation — se distancia de lo dado, se rebela contra ello, reconoce una ausencia y concibe un estado de cosas que aún no existe. El pensamiento simbólico que los primates sin pelo hemos desarrollado conjuga bien con esta idea metafísica que se aloja al fondo de nuestra innovación tecnológica²: Cuando alguien imagina una herramienta, rechaza una organización presente o proyecta una forma de vida diferente, introduce una separación entre lo que hay y que lo podría haber. La negación abre el espacio para el proyecto. La propia automejora recursiva parte de ese supuesto: que siempre puede haber espacio para cambiar una cierta configuración por otra mejor.

Sin embargo, tal es la vastedad de nuestra ignorancia — esa por cuya milésima parte bien entregaríamos todo cuanto ya sabemos — que no podemos asegurar que el espacio aún más extenso al que se asome la RSI carezca de límites. Porque, al igual que nos desconciertan los descubrimientos que parecían imposibles, no podemos contentarnos con asumir su opuesto. Esto es, que cualquier cosa es posible. Hasta ahora hemos palpado ya ciertos límites en la realidad, descubriendo por ejemplo contradicciones lógicas, epistémicas o físicas que no nos cabe otra que asumir como insuperables³. ¿Por qué considerar que el logro de una auto mejora recursiva dejará de encontrarlas? Aunque la realidad pueda incluso superar las contradicciones que no caben en nuestro cerebro primate salvo de forma poética y retórica, ¿qué nos permite asumir que una superinteligencia logrará deshacer cualquier limitación que pueda encontrarse en su camino de automejora?

Los tecnoptimistas se entregan con facilidad al canto de sirena que se desliza falazmente por una pendiente resbaladiza: si la IA logra curar el cáncer o el Alzheimer y mejora los tratamientos cardiovasculares, ¿qué nos garantiza que no aparecerán, como recurrentemente han aflorado, nuevas limitaciones desconocidas que, aunque consientan una mejora en la esperanza de vida, volverán a contener cualquier crecimiento exponencial y hacernos superar, por ejemplo, la velocidad de escape de la longevidad?

La singularidad, en realidad, es solo un concepto matemático. La realidad física es tozudamente correctiva. Incluso aunque seamos muy malos identificando crecimientos exponenciales — como hace no tanto comprobamos en los momentos incipientes de una pandemia — en realidad ese carácter exponencial es sólo una aproximación instrumental para describir un comportamiento transitorio del mundo real que siempre se acaba pareciendo más bien a una curva logística que halla en algún momento su saturación.

El debate más trascendental sigue encontrándose en si ampliando el horizonte de posibilidades, la exploración de esa nueva IA capaz de automejorarse de manera recursiva acabará haciéndonos perder peligrosamente el control y provocar un daño catastrófico. Pero asustar con la vieja idea de la singularidad como una explosión infinita de inteligencia coquetea en exceso con el postulado fantasioso de que no hay límites. Ni materiales, ni energéticos, ni informacionales, ni institucionales ni humanos. Debiéramos estar, sin embargo, ya escarmentados de que cuando se resuelve el cuello de botella de un sistema complejo siempre aflora uno nuevo. Por ejemplo, comprendiendo que el crecimiento de la inteligencia no tiene por qué ser acumulativo ni mucho menos ilimitado. La recursividad del software puede diseñar mejores algoritmos pero eso no proporciona también, por arte de magia, los chips con que ejecutarlos, la electricidad para alimentarlos, el ancho de banda para conectarlos, los datos nuevos con que aprender, los experimentos con que contrastar sus hipótesis y el tiempo físico necesario para fabricar, medir y verificar cada nueva generación. Aunque no marquen de facto un techo imposibilitante, hay leyes y principios que ya hacen poco verosímil que exista un camino explosivo sin obstáculos⁴.

El debate que ha copado portadas en medios sobre la amenaza de la IA tiene múltiples interpretaciones que están entrando en colisión o que pueden ser simultáneamente posibles. Puede que se trate solo de un movimiento de captura regulatoria, por el que los líderes que desarrollan la IA de frontera quieren rentabilizar sus vastísimas inversiones asegurándose que aparezca un regulador favorable y controlado por ellos. Un regulador que intervenga en el mercado — también en el geopolítico, con fuertes restricciones a China — para generar el foso — moat — del que carecen, pues los modelos de pesos abiertos — típicamente chinos —, mucho más económicos en ejecución y de dominio público, les estarían pisando los talones. Puede que, en su lugar o al mismo tiempo, les hayan estremecido de verdad las capacidades emergentes y los comportamientos imprevisibles de los modelos cuyas consecuencias y efectos seguros no pueden garantizar. Puede que ese temor, a ser desplazados económicamente por un competidor o existencialmente por una superinteligencia, se haya visto acentuado por lo que de verdad están viendo en sus laboratorios que experimentan con la RSI y que empiezan a no poder controlar. Pero no confundamos el potencial de esa explosión de inteligencia con un discurso apocalíptico que bendiga su inevitabilidad. Pues hay quienes, como Yudkowsky, llevan tiempo llamando a bombardear los centros de datos. Y el rechazo social creciente, que ya se manifiesta y moviliza discursos políticos por ejemplo contra la construcción de centros de datos, sabe prender fácilmente hasta la violencia con el miedo.

Como decían los estudiantes movilizados en el Mayo del 68, seamos realistas: pidamos lo imposible. Que la gente actúe con prudencia aristotélica. Ni temerosos ni temerarios, sino valientes. Invirtiendo, investigando, desarrollando y, sí, también, regulando. Porque esa prudencia, también a la luz de la historia desde los mitos a las más cercanas revoluciones, siempre nos ha enseñado que debemos explorar y romper algunos límites sin dejar de respetar e incluso de fijarnos otros, entre plátanos y vallas. Aunque nos han acostumbrado a que, tarde o temprano, esos límites acabarán apareciendo por sí mismos.

Gracias por leerme.

1. Así lo afirma provocadoramente Sergio Parra: Por más que nuestra vista se pierda en el horizonte de lo imaginable y nos permita especular y explorar (o crear) posibilidades, el mundo se empeña en sorprendernos. Nunca nos acostumbramos a que, en realidad, la realidad siempre supera a la ficción.

2. Los cerebros de los Sapiens sostienen un mundo imaginado compartido terriblemente importante para nuestra subsistencia material como especie hipersocial. Somos, de hecho, la única especie que indaga, explora y hace preguntas en ese mundo simbólico constantemente a través del lenguaje y la interpretación del lenguaje no verbal, inconscientemente sabedores de la importancia que tiene para nuestra supervivencia. Los simios no hacen preguntas — como bien explicaba José M.M. Gázquez —: nunca escarban de esta forma en la mente de otros.

3. Por más que nos empeñemos en concebir la cuadratura del círculo, como ejemplificaba Ortega y Gasset, hay espacios vedados, mapas perfectos imposibles que acorralan a nuestra aspiración a lo inalcanzable. Los ejemplos de estos límites epistémicos y físicos son innumerables en múltiples ámbitos. En economía y ciencias sociales, por ejemplo, hallamos el teorema de imposibilidad de Arrow (que demuestra la inviabilidad de un sistema de votación democrático ideal sin contradecir principios básicos de justicia) o las distribuciones de Pareto (que evidencian una inevitable asimetría estructural en la asignación de recursos). En computación y tecnologías emergentes, el teorema de imposibilidad de la justicia algorítmica (que prueba la imposibilidad matemática de optimizar simultáneamente diferentes criterios de equidad estadística) o el límite de Landauer (que establece el umbral físico mínimo de disipación energética al borrar un bit de información). En matemáticas y lógica pura, los teoremas de incompletitud de Gödel sentencian que en cualquier sistema axiomático consistente existirán proposiciones verdaderas imposibles de demostrar en él. O en física cuántica y termodinámica, basten los ejemplos del principio de incertidumbre de Heisenberg (que fija un límite absoluto a la precisión con la que conocemos variables físicas conjugadas) o la ley del crecimiento de la entropía (la irreversible tendencia de los sistemas cerrados hacia el desorden y la degradación energética).

4. Por ejemplo, la ley de Amdahl enuncia que cualquier parte de un proceso que no pueda paralelizarse acaba limitando la aceleración total. Además, cuando esta paralelización es posible, se encuentra a su vez con cuellos de botella como la pared de latencia en la comunicación entre procesadores, de modo que añadir más hardware deja de reducir proporcionalmente el tiempo de entrenamiento. Y, a su vez, este entrenamiento encadena el problema de la limitación de los datos, que fragilizan la estabilidad de sucesivas generaciones de modelos si se entrenan indiscriminadamente con los producidos por sus predecesores — cuál vacas locas alimentadas con carne animal — llegando a producir colapsos del modelo, por la pérdida progresiva de información que se degrada.