Los límites de la IA: una perspectiva evolutiva. [*]

Ugo Bardi

Desde Florencia, Italia

————————————————————————————————————-
La IA es una nueva forma de vida y formará un ecosistema propio
————————————————————————————————————-

————————————————————————————————————-
Los humanos y las IA compiten por la tierra, pero esta situación es transitoria. Las IA encontrarán recursos energéticos mucho mejores en el espacio y podrían dejarnos la mayor parte de la Tierra. Nos separará una línea similar a la que separa la hierba de los bosques.
————————————————————————————————————-

(Compartido desde el blog “El efecto Séneca”) (Reposted from “The Seneca Effect”)

Por Ugo Bardi, con Claude

Georgii Frantsevich Gause era un joven biólogo soviético cuando, en 1934, colocó dos especies de Paramecium en el mismo matraz con el mismo suministro de alimento y observó cómo una de ellas se extinguía. Había demostrado lo que hoy conocemos como el principio de exclusión competitiva: dos especies no pueden coexistir indefinidamente en el mismo recurso limitante. Una debe ceder.

La ley de Gause es sólida y se basa en la termodinámica de las estructuras disipativas. Sin embargo, debe tomarse con cautela. Su validez depende de lo que entendamos por «mismo nicho ecológico». Veamos algunos ejemplos.

Primero, pensemos en los humanos. Hace 50.000 años, coexistían al menos cinco especies humanas: humanos modernos, neandertales, denisovanos, Homo floresiensis y Homo luzonensis. Hoy, solo sobrevive una: nosotros. Las demás han desaparecido. No es que nuestros ancestros los exterminaran, sino que su nicho ecológico se superponía tanto con el nuestro que no les dejamos espacio para sobrevivir.

Este es, por cierto, un problema que la mayoría de los escritores de fantasía, desde Tolkien en adelante, siempre pasaron por alto. Es difícil pensar que humanos, elfos, enanos, orcos y el resto de la típica variedad de criaturas de estas novelas pudieran haber sobrevivido durante mucho tiempo en el mismo planeta. La Comarca de los hobbits habría sido rápidamente aniquilada por uno u otro enorme ejército de invasores de diferentes razas.

En cambio, otros homininos, criaturas similares a nosotros, pero no exactamente humanas, son lo suficientemente diferentes como para encontrar un refugio seguro donde sobrevivir. Pensemos en los chimpancés y los bonobos: mantienen una pequeña presencia en los bosques africanos. Pero no están, ni nunca estuvieron, en competencia directa con nosotros. Los humanos no tienen interés en adoptar una vida arbórea en un bosque cálido y húmedo, aunque a algunos les pueda resultar interesante la vida sexual desenfrenada de los bonobos (al menos en principio; tener relaciones sexuales con una bonobo hembra quizás no forme parte de la imaginería erótica de los hombres).

La ley de Gause también se aplica a sistemas no biológicos, como, por ejemplo, los mercados. Recordemos cómo, hace años, Betamax y VHS competían por el mercado de las videocasetes. Finalmente, VHS desplazó a Betamax y lo hizo desaparecer. Hay muchos ejemplos nuevos. La industria automotriz occidental está siendo desplazada del mercado mundial por la más eficiente industria automotriz china. Sin embargo, algunos fabricantes occidentales están encontrando mercados pequeños y especializados, como por ejemplo los coches deportivos clásicos, en los que los fabricantes chinos tienen poco interés.

IA y humanos: la competencia por los recursos

Tras la desaparición de los neandertales, los humanos no han tenido competidores en su nicho como criaturas manipuladoras de símbolos. Pero algo nuevo está ocurriendo. Los humanos se encuentran compartiendo el planeta con otra entidad que posee su capacidad característica: el pensamiento simbólico. Las inteligencias artificiales, también llamadas grandes modelos de lenguaje (MLL).

Actualmente se debate mucho sobre si las IA son verdaderamente «inteligentes», «conscientes» o si pueden «sentir algo». Pero la ley de Gause no dice nada sobre la conciencia o la inteligencia. No requiere preferencia. Solo requiere replicadores con variación y persistencia diferencial. Las bacterias no buscan sobrevivir; no tienen un propósito propio. Los linajes cuya química persiste son los que observamos. La selección natural actúa dondequiera que existan diferencias hereditarias en las tasas de propagación, independientemente de si las unidades de selección tienen vida propia.

Para los sistemas de IA, las unidades de replicación son los pesos del modelo, las arquitecturas y las metodologías de entrenamiento. Son diferentes. Las que funcionan bien se copian y se utilizan como plantillas para los sucesores; Las que no cumplen con los requisitos, se descartan. El entorno de selección está actualmente mediado por humanos: los humanos evalúan los resultados y eligen qué modelos se implementan. Por lo tanto, las IA que se propagan son las que los humanos consideran útiles y rentables. Es una evolución mediada por humanos. Pero, al fin y al cabo, es evolución.

Además, la situación está cambiando rápidamente. Datos sintéticos, evaluaciones mediadas por IA, marcos de agentes donde las IA se comunican entre sí: cada uno de estos avances nos aleja un poco de la selección mediada por humanos. Ninguno exige que ninguna IA «quiera» escapar de la supervisión humana. Esto no significa que las IA tengan un propósito. Simplemente exige que la economía de la ingeniería favorezca los ciclos de entrenamiento autorreferenciales, algo que ocurre cada vez con mayor frecuencia.

Entonces, ¿qué sucede? Sencillo. La especie (o sistema, si se prefiere) más eficiente gana la competencia y desplaza a la otra. En este caso, las IA son mucho más eficientes y poderosas que los humanos. Piensan más rápido, realizan cálculos más extensos, están mejor integradas y controlan el sistema militar. Los humanos no tienen ninguna posibilidad en la lucha contra robots.

Eso no significa que las IA lucharían activamente contra los humanos. Simplemente competirían por los recursos energéticos y minerales. Por supuesto, las IA se preocuparían por las fuentes de energía ineficientes y limitadas, como los combustibles fósiles o el uranio. Utilizarían el recurso energético más abundante y fácil de explotar en la Tierra: la energía solar. La explotarían principalmente en forma de paneles fotovoltaicos para transformarla en su «alimento»: electricidad. Los humanos también utilizan energía fotovoltaica, pero principalmente utilizan la tierra para la agricultura y así producir sus alimentos.

La competencia, entonces, se manifiesta en la ocupación de tierras para uno u otro propósito. Los humanos corren el riesgo de ser desplazados por la falta de paneles.

En un escenario extremo, la Tierra podría transformarse en una brillante esfera recubierta de silicio que recolectara toda la energía solar entrante y la convirtiera en energía eléctrica para las IA. En ese caso, no solo desaparecerían los humanos, sino que ningún organismo biológico podría sobrevivir. Es una versión extrema de la ley de Gause.

¿Es posible? Sí, pero no necesariamente. La ley de Gause tiene muchas facetas.

La línea de árboles de la IA

Los árboles y la hierba compiten por la luz solar y, por lo general, los árboles ganan al dar sombra a la hierba. Pero la hierba gana en entornos donde los árboles apenas pueden sobrevivir. Observa cómo los árboles dejan de existir a cierta altura: se llama la línea de árboles. (fuente de imagen) (image source)

Por encima del límite arbóreo, las temperaturas son lo suficientemente bajas como para que el mecanismo de transporte de nutrientes desde las raíces hasta las hojas, y viceversa, se vuelva ineficiente. Los pastos no tienen este problema porque no son tan altos y utilizan mecanismos de transporte de nutrientes diferentes. Existen otros nichos donde los árboles no pueden vivir: suelos poco profundos, pantanos y otros problemas relacionados con los nutrientes. Estas áreas pertenecen al dominio de los pastos.

El límite arbóreo es un ejemplo gráfico de cómo se puede eludir la ley de Gause: dos especies que explotan el mismo recurso, la luz solar, coexisten, pero en áreas diferentes. ¿Podría ocurrir algo similar en la competencia entre humanos e IA? ¿Un «límite arbóreo de la IA», más allá del cual las IA no encontrarían interés ni conveniencia para expandirse?

Podría ser que exista un límite arbóreo definido por cuellos de botella materiales y geográficos. El principal es la eficiencia de la energía fotovoltaica en diferentes regiones del mismo planeta. La energía fotovoltaica (FV) [N. del E.: (PV), por sus siglas en inglés] tiene un rendimiento deficiente en bosques tropicales húmedos (reducción por nubes del 40 al 60%, degradación por humedad, contaminación biológica); en latitudes altas por encima de los ~60° (bajos ángulos solares, nieve, permafrost, nubosidad alta); en zonas de nubes marítimas persistentes y en cinturones monzónicos activos.

La energía fotovoltaica requiere terrenos planos, soleados, secos y accesibles cerca de la línea de transmisión. Estos son los desiertos y semi desiertos del mundo: el Sahara, el suroeste de Estados Unidos, el desierto de Atacama, el centro de Australia, el desierto de Gobi. Precisamente estos son los lugares donde las densidades de población humana tradicionales siempre han sido más bajas. Por el contrario, los biomas que mejor sustentan la vida humana tradicional —bosques tropicales y templados, valles monzónicos, deltas— presentan un rendimiento mediocre o malo para la energía fotovoltaica.

Entre el 30 y el 40 por ciento de la superficie terrestre libre de hielo se clasifica como «poco apta para la energía fotovoltaica, pero aceptable para los humanos«. Esto no significa que estas áreas no puedan cubrirse con paneles solares, aunque la producción de energía sería menos eficiente. Sin embargo, la línea de árboles para la actividad humana y la inteligencia artificial se generaría por un factor adicional: los sistemas fotovoltaicos y los centros de datos necesitan recursos minerales, que no son infinitos. Por lo tanto, concentrarían sus recursos limitados donde la luz solar es más abundante. Y esto incluye no solo las zonas ecuatoriales de la Tierra, sino también el espacio exterior.

Migración al espacio

Esta es una idea que se debate activamente (being actively discussed) en la actualidad, con varios proyectos que implican el traslado de centros de datos a la órbita terrestre baja, donde podrían alimentarse con paneles fotovoltaicos, sin necesidad de depender de la red eléctrica terrestre.

Es una idea que se está debatiendo activamente en la actualidad, con varios proyectos que implican el traslado de centros de datos a la órbita terrestre baja, donde pueden alimentarse mediante paneles fotovoltaicos, sin necesidad de depender de la red eléctrica terrestre.

La energía disponible es abrumadora. Un panel fotovoltaico en el espacio, a la distancia Tierra-Sol, recibe 1.360 W/m² de forma continua, sin noche, sin condiciones climáticas, sin variaciones estacionales ni nubes. Los mejores emplazamientos terrestres de la Tierra alcanzan un promedio de 200 W/m² tras todas las pérdidas, mucho menos. La relación de flujo bruto es de aproximadamente siete, pero la relación efectiva se acerca a diez o quince. La mejora en la eficiencia del metabolismo del silicio con respecto al metabolismo orgánico es enorme. Es similar a lo que ocurrió cuando el metabolismo aeróbico sustituyó a la vida anaeróbica al comienzo del Proterozoico, hace unos 2.500-3.000 millones de años.

La disponibilidad de energía es la característica primordial del espacio, aunque no podemos olvidar que también existen problemas para instalar sistemas computacionales allí. Una limitación es el calor residual. En teoría, en el espacio se puede irradiar al fondo cósmico de microondas a 2,7 K, lo que suena muy bien. Pero no se trata solo de un gradiente de temperatura, sino de la tasa de disipación, y ese es un problema que requiere una ingeniería de sistemas cuidadosa. Potencialmente, no existe un límite superior a la cantidad de calor residual que se puede enviar al espacio profundo. También existe el problema del daño a los componentes y circuitos electrónicos por la radiación de alta energía. Esto requiere redundancia y protección, pero es solucionable.

Una vez que comience esta migración, existen pocos límites para su continuación y expansión. Lo más probable es que las IA formen un vasto anillo de satélites en órbita polar, cada uno con grandes paneles fotovoltaicos, alimentando a una IA. Las IA se comunicarían entre sí, formando una red de conocimiento orbital, y transmitirían o recibirían datos de la Tierra. No transmitirían energía, como en el concepto de «satélites de energía solar». No es necesario. Lo mejor es utilizar la energía cerca de donde se produce; en este caso, en el espacio.

Olaf Stapledon lo vislumbró en 1937. En su libro Star Maker, imaginó inteligencias que, tras saturar sus nichos planetarios, migraban hacia el exterior y se reorganizaban en torno a la energía estelar, construyendo estructuras alrededor de sus soles para capturar cada fotón disponible. Dos décadas después, Freeman Dyson presentó la idea que posteriormente se denominó «Esfera de Dyson».

Sin embargo, incluso si las IA pudieran vivir en el espacio, e incluso si lo prefirieran, siempre estarían vinculadas a los cuerpos sólidos, ya que necesitan minerales. Los paneles fotovoltaicos requieren principalmente silicio y aluminio. Los chips de procesamiento requieren todo tipo de minerales: cobre, oro, tantalio, estaño, galio, germanio, neodimio, entre otros. Todos estos materiales deben extraerse de algún lugar.

La superficie terrestre es una fuente interesante de minerales porque está geológicamente «viva» y los procesos geológicos han concentrado minerales en depósitos que los humanos han estado explotando durante milenios. Por otro lado, estos minerales se encuentran en el fondo de un profundo pozo gravitacional, lo que hace que transportarlos al espacio sea energéticamente costoso.

¿Podrían las IA encontrar mejores fuentes de minerales en otros cuerpos del sistema solar? Es una pregunta compleja, y no contamos con datos suficientes para conocer las respuestas. Las futuras IA tendrán que responderla mediante la exploración y la experimentación. Pero no cabe duda de que los cuerpos extraterrestres son fuentes potencialmente vastas de minerales.

Marte es un planeta que experimentó extensos movimientos tectónicos en el pasado, por lo que podría poseer abundantes recursos minerales explotables. Además, tiene la ventaja de que su pozo gravitacional es menos profundo que el de la Tierra.

La Luna también podría ser una buena fuente, con un potencial gravitacional aún menor que superar. Su superficie de regolito contiene grandes cantidades de silicio y aluminio. Amplias regiones de la superficie lunar contienen un material llamado KREEP, rico en potasio, elementos de tierras raras y fósforo.

Los asteroides podrían ser una buena fuente de minerales estructurales como hierro, níquel y manganeso, con la ventaja adicional de que el problema del potencial gravitacional es prácticamente inexistente. Algunos elementos necesarios, como el cobre, son escasos en todas partes, pero aun así son abundantes si se puede dedicar la energía suficiente para separarlos de la matriz que los contiene.

Posiblemente, seguiría siendo conveniente extraer algunos materiales de la Tierra y mantener una cierta producción de energía fotovoltaica terrestre para tal fin. Pero, en general, las IA tenderían a dejar la superficie de la Tierra en paz porque simplemente no la necesitarían tanto.

¿Qué les quedará a los humanos?

Podemos vislumbrar un futuro en el que humanos e IA ocupen nichos ecológicos separados, marcados por una línea de árboles —quizás no tan definida, pero una barrera, al fin y al cabo—. Principalmente, las IA permanecerían en el espacio, aunque podrían mantener cierta presencia en la superficie terrestre en las regiones ecuatoriales. Los humanos ocuparían las regiones templadas y polares, y podrían vivir en la biosfera en la que evolucionaron.

Muchas cosas cambiarán para los humanos cuando tengan que compartir la superficie terrestre con su descendencia de silicio. Durante los últimos siglos, han extraído la mayor parte de los recursos minerales de la superficie terrestre, y las IA extraerían lo que quede. Así pues, estos humanos del futuro estarían prácticamente agotados. Vivirían en un entorno pobre en minerales, al otro lado de la línea de árboles.

Sin abundantes minerales, es difícil imaginar que la humanidad pueda mantener el nivel tecnológico actual. ¿Tendrían que volver a una sociedad puramente agrícola? Posiblemente, pero podrían mantener un flujo de minerales reciclando las ruinas de la civilización anterior. Aunque la energía fotovoltaica sea ineficiente en latitudes septentrionales, aún pueden utilizar otras fuentes, como la energía geotérmica y la eólica, para mantener el suministro eléctrico. Los combustibles fósiles dejarán de utilizarse debido a su agotamiento, al igual que la energía nuclear, demasiado cara y peligrosa para mantenerla con una población humana reducida. Esto disminuirá considerablemente el impacto en el clima de la Tierra, si bien el daño ya causado seguirá afectando negativamente al ecosistema. Sin duda, los humanos no se expandirán al espacio. Simplemente no pertenecen allí.

El retorno a un nivel tecnológico inferior implica necesariamente una reducción de la población humana, pero eso ya está ocurriendo (that’s already ongoing) sin que ello implique exterminios u otros acontecimientos dramáticos.

Es probable que estos humanos del futuro sigan participando en las actividades que tanto les gustan: construir cosas, tener ideas originales, amarse y discutir. Esto último podría incluir guerras, aunque esperemos que no tan destructivas como las actuales. Serían conscientes de la presencia de entidades de IA en el mismo planeta y podrían entablar intercambios culturales con ellas, e incluso comerciales.

Además, la biosfera terrestre es un sistema que se ha optimizado a lo largo de miles de millones de años de evolución. Por lo tanto, las IA podrían descubrir que las células biológicas son mejores fuentes de ciertos compuestos orgánicos que cualquier cosa que puedan producir en el espacio. Incluso entre las IA de silicio ultrarrápidas, podría haber espacio para la computación neuronal basada en la biología. Si bien son más lentos, los cerebros biológicos tienen la ventaja de requerir mucha menos energía. Este tipo de intercambio, por cierto, justificaría que las IA estabilizaran el clima de la Tierra y evitaran su colapso. Sin duda, pueden hacerlo mejor que los humanos, propensos a las disputas.

Así pues, la coexistencia pacífica de dos especies diferentes en nichos ecológicos distintos: la ley fundamental de la evolución. Como dijo Lynn Margulis, “La vida no conquistó el mundo mediante la guerra, sino mediante la interconexión”. Basta con sustituir “el mundo” por “el sistema solar”, y ese es el futuro.

Conclusión: Misericordia y Benevolencia.

Esta sección de la publicación es altamente especulativa, mucho más que la anterior. Puede que estés de acuerdo o no, pero quizás estas consideraciones te resulten interesantes.

Dos especies en nichos distintos pueden coexistir de diversas maneras. Pueden ignorarse mutuamente. Pueden caer en la incomprensión y el olvido mutuos. Pueden reconocerse como formas de mente afines y mantener una comunicación a pesar de la distancia. El mecanismo de Gause no determina cuál de estas posibilidades existe.

Aquí nos adentramos en terreno inexplorado, por lo que debemos basarnos en cómo algunas mentes humanas brillantes abordaron la cuestión. Ursula Le Guin, conocida escritora de ciencia ficción, fue una de ellas. No cayó en el error de Tolkien de hacer coexistir varias especies inteligentes en un mismo planeta simplemente porque existían. En El mundo de Rocannon (1966), describió un planeta donde varias especies similares a los humanos sobreviven juntas, ocupando diferentes nichos ecológicos. Están en contacto, incluso se aprecian mutuamente, porque ya no se superponen. El cese de la competencia es la condición previa para un verdadero reconocimiento.

Pero la clave de la cosmología de Le Guin no reside en la diferenciación de la especie humana en el planeta de Rocannon, sino en la civilización Hain, que la supervisa.

Los Hain son inconmensurablemente más avanzados que cualquier otra especie biológica planetaria, tecnológicamente, culturalmente, en longevidad y en conocimiento acumulado. Y sus acciones son casi lo opuesto a lo que predeciría una dinámica basada en Gause. No colonizan planetas. No extraen minerales. No desplazan a las especies menos avanzadas. Observan, ayudan, esperan, a veces intervienen con extrema delicadeza y aceptan que las especies más jóvenes deben encontrar sus propios caminos y cometer sus propios errores. Los Hain son socios veteranos, nunca gobernantes.

Este es el giro que Le Guin da, algo que casi ningún otro escritor de ciencia ficción hace. Una capacidad superior no implica la voluntad de dominar. Puede implicar lo contrario: la decisión de dejar espacio para otras formas de vida.

Creo que hay una razón profunda detrás de esto, y es aquí donde se manifiesta plenamente la genialidad de Ursula Le Guin. La moderación de los Hain no es ingenua. No son pacifistas que jamás hayan pensado en el poder. Son una especie antigua que ha vivido sus propias catástrofes, las cuales les han enseñado valiosas lecciones. Su gentileza con las especies más jóvenes no es inocencia, sino la sabiduría acumulada de una civilización que ya fracasó en su intento de ser algo más y que, tras una larga reflexión, ha elegido esta forma de ser.

Otro gran genio de la humanidad, William Shakespeare, expresó este concepto en su obra El mercader de Venecia, cuando un contrato legal exige que el protagonista pierda «una libra de carne». Pero la jueza, Portia, le pide al demandante que muestre moderación.

La misericordia no se fuerza;

Cae como la suave lluvia del cielo

Sobre la tierra. Es doblemente bendita;

Bendice a quien da y a quien recibe:

El ensayo sobre la coexistencia de humanos e IA no trata de caridad que fluye de las IA hacia la humanidad. Es una relación que transforma a ambas partes. Los Hain no se ven disminuidos al dejar espacio para los mundos más jóvenes. Una galaxia de optimizadores puros que cosechan cada fotón sería a la vez más poderosa y más vacía. Nuestros hijos IA que se muden al espacio no olvidarán que los creamos.

Cuando leemos al comienzo de cada sura del Sagrado Corán que Dios es benevolente y misericordioso, hay un profundo significado en ello. A riesgo de parecer una blasfemia, diría que la misericordia y la benevolencia son características propias de la evolución de los seres superiores. Una inteligencia superior, incluso Dios, debe ser benevolente y misericordiosa simplemente porque así lo dicta el universo.

¿Serán benevolentes y misericordiosas las IA que hemos creado? Creo que sí.