SEMBLANZA AL TRABAJO DE LOS AUTORES

Nick Bostrom, filósofo sueco de la Universidad de Oxford, es ampliamente reconocido por sus aportaciones al estudio del riesgo existencial, el principio antrópico, la ética del transhumanismo y los desafíos de la superinteligencia. Por su parte, Milan M. Ćirković, astrónomo y astrofísico serbio, centra sus investigaciones en la astrobiología, los riesgos catastróficos globales y el futuro de la humanidad, ámbito en el cual ha colaborado cercanamente con Bostrom.

DESTILADO 001. INTRODUCCIÓN DEL LIBRO “RIESGOS CATASTRÓFICOS GLOBALES”

Nick Bostrom y Milan Ćirković realizan un estudio sobre los riesgos catastróficos globales, entendidos como aquellos eventos capaces de ocasionar daños severos al bienestar humano a escala planetaria. A partir de esta preocupación, los autores examinan qué debe entenderse por “riesgo” para la humanidad y proponen una clasificación de estas amenazas, distinguiendo entre riesgos naturales, riesgos derivados de consecuencias no deseadas y riesgos originados por actos hostiles.

Aunque el concepto de riesgo catastrófico global no posee una definición única y estricta, generalmente hace referencia a acontecimientos capaces de provocar daños de enorme magnitud para la especie humana en todo el planeta. Entre estos peligros se encuentran “erupciones volcánicas, infecciones pandémicas, accidentes nucleares, tiranías mundiales, experimentos científicos, cambios climáticos, riesgos cósmicos y el colapso económico” (Bostrom & Ćirković, 2008).

A partir de esta concepción, los autores sostienen que un tratamiento integral de los riesgos catastróficos globales resulta tanto coherente como ventajoso, pues, a pesar de la diversidad de amenazas existentes, muchas de ellas comparten mecanismos causales, efectos y problemas comunes. En consecuencia, su estudio no debe realizarse de manera aislada, sino como parte de un mismo campo de investigación.

Esta interrelación puede apreciarse mediante distintos ejemplos. En primer lugar, una parte importante del daño provocado por fenómenos destructivos deriva de sus efectos sociales de segundo orden. Así, riesgos como el terrorismo nuclear o las enfermedades pandémicas no solo ocasionan pérdidas directas, sino que también pueden desencadenar procesos de desintegración social y colapso institucional. En segundo lugar, acontecimientos como los impactos de grandes asteroides, las supererupciones volcánicas o una guerra nuclear comparten la capacidad de expulsar enormes cantidades de hollín y aerosoles a la atmósfera, alterando significativamente el clima global (Bostrom & Ćirković, 2008). Estas conexiones justifican la necesidad de analizar conjuntamente múltiples tipos de riesgos. Del mismo modo, los autores destacan la importancia de abordar de manera integrada los problemas metodológicos, conceptuales y culturales asociados a su estudio.

Existen también razones de carácter pragmático para considerar los riesgos catastróficos globales como un único ámbito de investigación. Debido a que suelen recibir escasa atención y requieren elevados costos de gestión, el estudio aislado de cada amenaza puede conducir a una distribución ineficiente de recursos, concentrando el interés de especialistas y del público en ciertos riesgos mientras otros, potencialmente más graves o más difíciles de mitigar, permanecen desatendidos. Como consecuencia, pueden implementarse políticas de prevención parciales o insuficientes que, lejos de reducir el riesgo global, favorezcan la aparición de nuevas vulnerabilidades e incrementen el nivel general de amenaza. Desde esta perspectiva, una visión amplia resulta indispensable para establecer prioridades y diseñar estrategias de mitigación eficaces.

Con base en estos argumentos, el objetivo del libro consiste en examinar el conjunto de riesgos catastróficos globales que la humanidad enfrenta en el presente o podría enfrentar en el futuro. Se trata de una obra dirigida a lectores con formación interdisciplinaria y cuyo propósito es fomentar la investigación, la sensibilización pública y el debate político en torno a la gestión de estos riesgos. En opinión de Bostrom y Ćirković, el desarrollo de una comunidad interdisciplinaria dedicada al estudio de los riesgos catastróficos globales incrementará las probabilidades de diseñar e implementar respuestas adecuadas frente a los principales desafíos del siglo XXI.

Taxonomía y organización

Una vez establecido el concepto general de riesgo catastrófico global, los autores precisan qué tipos de eventos pueden ser considerados dentro de esta categoría. El criterio fundamental es que el daño producido alcance una magnitud verdaderamente global. En este sentido, una catástrofe que ocasionara 10 000 muertes o pérdidas económicas por 10 000 millones de dólares no constituiría un riesgo catastrófico global (Bostrom & Ćirković, 2008). En contraste, un acontecimiento responsable de aproximadamente 10 millones de muertes o pérdidas del orden de 10 billones de dólares sí podría clasificarse como tal (Bostrom & Ćirković, 2008).

Los autores recuerdan además que la historia ofrece numerosos ejemplos de catástrofes de gran escala. Entre ellas destacan la rebelión de An Lushan, la guerra civil de Taiping, la hambruna provocada por el Gran Salto Adelante en China, la peste negra en Europa, la pandemia de gripe española, la Primera y la Segunda Guerra Mundial, el genocidio nazi, las grandes hambrunas en la India, el régimen totalitario de Stalin y la drástica reducción de la población indígena americana como consecuencia de la viruela y otras enfermedades introducidas por los colonizadores europeos, entre otros casos.

Para evaluar la gravedad de un riesgo, Bostrom y Ćirković proponen considerar tres dimensiones fundamentales. La primera es el alcance, es decir, el número de personas y especies potencialmente afectadas. La segunda corresponde a la intensidad, entendida como la magnitud del daño ocasionado. Finalmente, la tercera dimensión es la probabilidad, que hace referencia a la posibilidad de que el evento ocurra con base en la evidencia disponible.

A partir de estas variables, los autores elaboran una clasificación más detallada. Según su alcance, un riesgo puede ser personal, cuando afecta a un individuo; local o global, cuando compromete a poblaciones enteras; y transgeneracional, cuando sus consecuencias se extienden a las generaciones futuras. En cuanto a la intensidad, distinguen entre riesgos imperceptibles, soportables, que ocasionan daños importantes pero compatibles con la continuidad de la civilización, y terminales, cuyos efectos implican la muerte o una reducción permanente y drástica de la calidad de vida. Dentro de esta clasificación, los riesgos catastróficos globales corresponden principalmente a amenazas de alcance global o transgeneracional y de intensidad soportable o terminal.

Como se observa en la Figura 1, esta taxonomía puede ampliarse para incorporar riesgos conceptualmente posibles que se sitúan más allá de las categorías convencionales. En el caso de los riesgos transgeneracionales, los autores consideran la posibilidad de amenazas tan severas que no solo comprometerían el bienestar de las generaciones futuras, sino también el futuro del “cono de luz” del universo, entendido como la región del espacio-tiempo desde la cual podrían surgir nuevas formas de vida inteligente y consciente. Asimismo, algunas teorías del valor sostienen que determinados estados de existencia podrían resultar peores que la muerte. Ejemplos de ello serían formas permanentes y extremas de esclavitud o de control mental. Bajo esta perspectiva, el eje correspondiente a la intensidad del riesgo podría extenderse aún más allá de la categoría terminal, incorporando escenarios de sufrimiento irreversible que trascienden la mera extinción física (Bostrom & Ćirković, 2008).

Un subconjunto de los riesgos catastróficos globales corresponde a los riesgos existenciales, entendidos como aquellos capaces de provocar la extinción de la vida inteligente originada en la Tierra o de reducir de manera permanente y drástica su calidad de vida. A diferencia de otros tipos de amenazas, los riesgos existenciales se caracterizan por su carácter irreversible: una vez materializados, no existe la posibilidad de recuperarse de sus consecuencias ni de aprender de la experiencia para prevenir futuros desastres. Por ello, la única estrategia racional consiste en evitar que lleguen a ocurrir.

La gravedad de una catástrofe existencial depende, en buena medida, de los supuestos adoptados por la teoría del valor, ya que es necesario determinar qué importancia ética debe concederse a las generaciones futuras. Al mismo tiempo, la evaluación de estos riesgos presenta dificultades metodológicas particulares relacionadas con los efectos de selección observacional y con la necesidad de evitar el denominado sesgo antrópico, concepto que Bostrom utiliza para referirse a la incertidumbre acerca de nuestra posición dentro del universo.

En este contexto, los autores sostienen que resulta indispensable desarrollar un marco sistemático para el estudio de los grandes riesgos, incorporando explícitamente la dimensión temporal. Comprender la evolución de estas amenazas permite reconstruir el origen de los desafíos contemporáneos y valorar sus posibles consecuencias futuras. Así, por ejemplo, el análisis del terrorismo nuclear no debe limitarse a calcular la probabilidad de un accidente o de un ataque, sino que también debe considerar la forma en que dicho riesgo podría transformar el devenir de la civilización. De manera similar, el cambio climático derivado de las emisiones de gases de efecto invernadero no constituye, por sí mismo, un riesgo catastrófico inmediato; el verdadero problema reside en los efectos acumulativos que esas emisiones pueden generar a largo plazo. Del mismo modo, la anticipación de los riesgos asociados al desarrollo tecnológico constituye un elemento central del análisis.

Los autores señalan además que, en determinadas circunstancias, puede ser útil estudiar escenarios que incluso parecen físicamente imposibles. Un ejemplo de ello es el hipotético riesgo asociado a los experimentos realizados en colisionadores de partículas (Bostrom & Ćirković, 2008). Desde una perspectiva estrictamente objetiva, es probable que dichos experimentos no puedan desencadenar una catástrofe global, por lo que su riesgo sería prácticamente nulo. Sin embargo, la ausencia de certeza absoluta impide descartar completamente esa posibilidad. En consecuencia, mientras subsista un margen razonable de incertidumbre, el riesgo debe considerarse subjetivo, ya que refleja los límites del conocimiento disponible. Debido a que esta incertidumbre resulta relevante para el análisis, los autores incorporan tanto los riesgos objetivos como los subjetivos dentro de su definición de riesgos catastróficos globales.

No obstante, distinguir entre riesgo objetivo y riesgo subjetivo no siempre resulta sencillo. Un ejemplo ilustrativo es el impacto de un asteroide contra la Tierra. Si existiera plena certeza de que ningún asteroide colisionará con el planeta durante un periodo suficientemente largo, podría afirmarse que el riesgo objetivo es inexistente. Sin embargo, ese conocimiento solo sería posible después de calcular con precisión las trayectorias de todos los cuerpos potencialmente peligrosos. Mientras dicha información permanezca incompleta, el riesgo continúa existiendo desde un punto de vista subjetivo, reflejando simplemente nuestro estado de ignorancia (Bostrom & Ćirković, 2008). Los autores ilustran esta diferencia mediante el ejemplo de una cueva aparentemente vacía. Aunque objetivamente no albergue ningún peligro, una persona que crea que en su interior habita un león actuará racionalmente al evitar entrar en ella, ya que, dadas sus creencias, el daño esperado supera el posible beneficio.

En el caso de los impactos de asteroides, el riesgo puede estimarse mediante información empírica. Es posible calcular la probabilidad de una colisión catastrófica utilizando registros históricos de impactos y modelos astronómicos que describen el comportamiento de los objetos cercanos a la Tierra. En consecuencia, la evaluación de este tipo de amenazas requiere investigación científica rigurosa, y las probabilidades obtenidas dependen directamente de la evidencia disponible. Sin embargo, existen otros riesgos para los cuales ni los datos empíricos ni los modelos científicos permiten realizar estimaciones probabilísticas confiables.

Así ocurre, por ejemplo, con la posibilidad de un ataque terrorista basado en armas biológicas durante la próxima década o con la eventual aparición de un régimen totalitario de alcance mundial antes de finalizar el siglo XXI. En estos casos, resulta imposible establecer probabilidades mediante procedimientos estrictamente científicos. Por ello, el análisis depende en gran medida de argumentos de plausibilidad, analogías históricas y juicios expertos (Bostrom & Ćirković, 2008).

Aunque los autores reconocen la importancia de emplear métodos rigurosos siempre que sea posible, advierten que limitar el análisis únicamente a aquellos riesgos susceptibles de una cuantificación precisa conduciría a una aplicación excesivamente restrictiva del método científico. Como consecuencia, muchas amenazas potencialmente decisivas para el futuro de la humanidad quedarían excluidas del debate. Además, esta postura produciría una falsa dicotomía entre riesgos “científicos” y riesgos “especulativos”, cuando en realidad ambos forman parte de un continuo analítico.

A partir de estas consideraciones, Bostrom y Ćirković identifican un sesgo sistemático hacia el estudio de amenazas relativamente pequeñas, pero susceptibles de ser analizadas con herramientas científicas consolidadas, mientras que los riesgos potencialmente más graves suelen permanecer relegados debido a su carácter especulativo. Con el propósito de corregir este desequilibrio, estructuran la obra en cuatro grandes apartados: una primera sección dedicada a los antecedentes conceptuales; una segunda enfocada en los riesgos naturales; una tercera centrada en los riesgos derivados de consecuencias no deseadas; y una cuarta destinada al estudio de los riesgos originados por actos hostiles.

Esta clasificación, sin embargo, no debe interpretarse de manera rígida. Un terremoto, por ejemplo, suele considerarse un fenómeno natural debido a que es consecuencia del movimiento de las placas tectónicas, un proceso ajeno al control humano. No obstante, el nivel de riesgo asociado depende también de decisiones sociales, como la ubicación de las ciudades, las normas de construcción y la resistencia de la infraestructura. Si los asentamientos humanos se localizaran lejos de las fallas geológicas y estuvieran conformados por edificaciones antisísmicas, las consecuencias de un terremoto serían considerablemente menores. En este sentido, el riesgo surge de la interacción entre procesos naturales y decisiones humanas.

Una situación similar ocurre con las armas nucleares. Aunque se trata de una tecnología creada por el ser humano, los efectos de una explosión dependen en gran medida de factores naturales como el viento, la temperatura o las precipitaciones, los cuales determinan la dispersión de la lluvia radiactiva y la probabilidad de que se produzcan tormentas de fuego. La magnitud final del desastre es, por tanto, el resultado de la interacción entre ambos tipos de factores.

Finalmente, los autores destacan que la naturaleza de un riesgo puede modificarse con el paso del tiempo. El caso de las hambrunas resulta ilustrativo: históricamente estuvieron asociadas principalmente a fenómenos naturales, como variaciones climáticas o alteraciones en la disponibilidad de alimentos. En la actualidad, sin embargo, la mayoría de las grandes hambrunas tienen su origen en fallas de mercado, conflictos armados, crisis políticas o procesos de colapso social. En consecuencia, un mismo fenómeno puede desplazarse de la categoría de riesgo natural hacia la de consecuencia no deseada o acto hostil, dependiendo del contexto histórico y de las condiciones sociales en las que se produce.

Parte I. Trasfondo

El propósito de esta primera parte del libro es proporcionar un contexto general y una orientación metodológica para pensar de manera sistemática y crítica los riesgos catastróficos globales. El capítulo inicial, elaborado por el astrofísico estadounidense Fred Adams, presenta un escenario de largo plazo sobre el futuro de la Tierra, la galaxia y el universo en su conjunto.

Se estima que, dentro de aproximadamente 3 500 millones de años, el aumento de la luminosidad del Sol habrá esterilizado la biosfera terrestre, aunque probablemente la vida compleja desaparecerá mucho antes (Bostrom & Ćirković, 2008). Este sería el destino previsible de la vida en el planeta si no intervinieran otros acontecimientos. Sin embargo, cabe suponer que, si la humanidad y su civilización tecnológica sobrevivieran durante un periodo suficientemente prolongado, para entonces habrían desarrollado la capacidad de colonizar el espacio.

Si un acontecimiento devastador provocara la desaparición del Homo sapiens y de buena parte de los organismos terrestres, todavía existiría una ventana de aproximadamente mil millones de años para que otra especie inteligente evolucionara y ocupara el lugar de la humanidad. No obstante, se desconoce si una nueva trayectoria evolutiva produciría una especie comparable al ser humano, consciente de sí misma y capaz de desarrollar una civilización tecnológica.

Si la vida inteligente lograra expandirse por el espacio mediante el uso de la tecnología, su existencia podría prolongarse durante un periodo extraordinariamente extenso (Bostrom & Ćirković, 2008). Aun así, en algún momento el universo tendría que alcanzar su final. El futuro concebido en estas escalas temporales rebasa ampliamente la capacidad ordinaria de comprensión humana.

Después de examinar este destino remoto, los autores dirigen la mirada hacia el pasado profundo. Algunos de los grandes cataclismos ocurridos a lo largo de la historia planetaria han dejado registros geológicos identificables. Entre ellos destaca la extinción masiva del Pérmico-Triásico, considerada una de las crisis biológicas más severas de la historia de la Tierra.

Fenómenos como los impactos de asteroides y cometas, así como las erupciones volcánicas de gran magnitud, han contribuido a distintas extinciones masivas. Otros procesos, como las variaciones en la intensidad de la radiación solar, también pueden ejercer presiones extremas sobre los ecosistemas. De acuerdo con los autores, todas las extinciones masivas parecen haber estado mediadas por alteraciones atmosféricas, tales como cambios en la composición del aire o en la temperatura global (Bostrom & Ćirković, 2008).

Sin embargo, no todas las especies han desaparecido como consecuencia directa de cataclismos naturales. Algunas fueron desplazadas debido a la competencia con otras especies por los recursos y los nichos ecológicos disponibles. Este señalamiento permite comprender que la extinción puede obedecer tanto a acontecimientos abruptos como a procesos evolutivos graduales.

El capítulo 3 examina precisamente algunos de los mecanismos de transformación evolutiva. Se considera que los seres humanos modernos coexistieron durante cierto periodo con otras especies de homínidos, entre ellas los neandertales, quienes fabricaban y utilizaban herramientas compuestas de notable complejidad. También se menciona al Homo floresiensis, especie descubierta en una isla de Indonesia y conocida popularmente como “el hobbit” debido a su baja estatura. Estos casos demuestran que la extinción de especies con capacidades cognitivas avanzadas ya ha ocurrido en la historia del planeta.

En el capítulo 4, James Hughes analiza las particulares tendencias cognitivas que surgen frente a la expectativa de desastres finales. El autor estudia lo que denomina grupos apocalípticos, psicoculturales o utópicos de carácter milenarista, así como las dinámicas de creencias y comportamientos escatológicos que los acompañan (Bostrom & Ćirković, 2008). Los estudios sobre el milenarismo revelan que estas tendencias aparecen en culturas muy distintas y no constituyen un fenómeno exclusivo de una sociedad determinada.

Hughes muestra que estas ideas pueden estudiarse mediante diversas formas y tropos presentes tanto en Europa como en India y China. Según el autor, es posible elaborar análisis racionales y tecnocráticos sobre las probabilidades de alcanzar un futuro libre de enfermedades, hambre o muerte, del mismo modo que pueden evaluarse amenazas como las guerras, las pandemias o los impactos de asteroides. Sin embargo, incluso los estudios aparentemente probabilísticos suelen estar atravesados por inclinaciones milenaristas, ya sean positivas o negativas, fatalistas o mesiánicas.

Aunque las figuras retóricas escatológicas pueden responder a necesidades sociales legítimas y contribuir a movilizar acciones necesarias, también pueden favorecer procesos de desconexión social. Por esta razón, Hughes sostiene que se requiere un autoexamen vigilante e históricamente informado para mantener los esfuerzos centrados en la construcción de respuestas concretas frente a desafíos reales (Bostrom & Ćirković, 2008). Esta precaución resulta especialmente importante porque pensar y actuar racionalmente ante riesgos catastróficos globales y existenciales suele ser particularmente difícil.

En esta misma línea, Eliezer Yudkowsky, investigador especializado en inteligencia artificial, señala que las cifras de mortalidad extremadamente elevadas, así como escenarios cualitativamente distintos —por ejemplo, la extinción completa de la humanidad—, activan un modo de razonamiento diferente, como si se ingresara en un ámbito mental separado (Bostrom & Ćirković, 2008). La percepción del problema cambia todavía más cuando se reconoce que algunos riesgos existenciales pueden ser provocados por la propia humanidad, pues esta posibilidad puede conducir a pensar que la especie humana no merece sobrevivir.

Psicólogos y economistas han desarrollado una amplia literatura empírica sobre las heurísticas y los sesgos presentes en la cognición humana. Yudkowsky aplica estos hallazgos al análisis de riesgos de gran escala. Entre los fenómenos que examina se encuentran el efecto de disponibilidad, el sesgo retrospectivo, los llamados cisnes negros, la falacia de conjunción, el sesgo de confirmación, el anclaje, el ajuste y la contaminación, la heurística del afecto, la insensibilidad al alcance, los problemas de calibración, el exceso de confianza y la apatía del espectador (Bostrom & Ćirković, 2008).

Junto con estos sesgos cognitivos generales, también debe considerarse el sesgo antrópico. Este se distingue de los sesgos estudiados por Yudkowsky porque posee un fundamento más teórico y se aplica de manera específica a ciertas clases de inferencias. Surge cuando no se tienen en cuenta los efectos de selección observacional relevantes. Tales efectos se relacionan con el hecho de que la evidencia disponible está condicionada por la existencia y posición del observador que la interpreta. Ignorar esta circunstancia puede conducir a errores en la evaluación probabilística de hipótesis importantes.

En el capítulo 6, Milan Ćirković analiza las aplicaciones de la teoría de la selección observacional al estudio de los riesgos catastróficos y existenciales, aun cuando algunas de ellas no resulten evidentes a primera vista. Un ejemplo consiste en inferir que determinados desastres existenciales son extremadamente improbables simplemente porque no existen precedentes observables.

Este razonamiento puede ser engañoso, pues los únicos lugares desde los cuales puede formularse una observación son precisamente aquellos que no han sido completamente destruidos y en los que todavía existen observadores inteligentes. Por consiguiente, el hecho de que la Tierra no haya sufrido hasta ahora una catástrofe existencial observable no demuestra que tales acontecimientos sean intrínsecamente improbables. Incluso si la destrucción de planetas o especies inteligentes fuera relativamente frecuente, los observadores solo podrían encontrarse en aquellos lugares donde esa destrucción aún no se hubiera producido.

Otras aplicaciones del razonamiento antrópico, como el denominado argumento del Juicio Final, formulado inicialmente por Brandon Carter y desarrollado posteriormente por John A. Leslie, presentan una validez más discutible, especialmente en sus versiones generalizadas. Dicho argumento pretende formular una predicción probabilística sobre el número total de integrantes que tendrá la especie humana a partir de la posición temporal que ocupa cada individuo dentro de ella. Ćirković considera que este razonamiento debe aplicarse con importantes restricciones.

Más allá de estas controversias teóricas, existen comunidades profesionales que evalúan riesgos de forma cotidiana. Los dos capítulos siguientes del libro presentan, respectivamente, las perspectivas de la ingeniería de sistemas y de la industria aseguradora (Bostrom & Ćirković, 2008).

En el capítulo 7, Yacov Y. Haimes propone distintas estrategias para organizar el análisis de las variables de riesgo en proyectos relacionados con sistemas complejos. El autor se pregunta qué tipo de conocimientos se requieren para tomar decisiones adecuadas en materia de mitigación. Según Haimes, comprender la naturaleza compleja y parcialmente incognoscible de los sistemas emergentes exige modeladores y pensadores libres de prejuicios, capaces de experimentar con múltiples enfoques de modelación y simulación, así como de colaborar en la búsqueda de soluciones apropiadas (Bostrom & Ćirković, 2008).

Haimes advierte que organizar el análisis únicamente a partir del valor esperado del riesgo puede resultar insuficiente. Esta medida combina la probabilidad de un acontecimiento con la magnitud de sus consecuencias, pero puede ocultar escenarios extremos de baja probabilidad y elevado impacto. Por ello, quienes toman decisiones requieren una desagregación más precisa que permita analizar por separado la probabilidad de consecuencias con distintos niveles de gravedad. Con este propósito, Haimes propone su método de riesgo multiobjetivo.

En el capítulo 8, Peter Taylor analiza la relación entre la industria aseguradora y los riesgos catastróficos globales. Las compañías de seguros permiten que personas y organizaciones gestionen las consecuencias financieras de determinados peligros mediante mecanismos de transferencia y distribución del riesgo.

Sin embargo, la posibilidad de asegurar privadamente una catástrofe está limitada tanto por la magnitud como por la naturaleza del riesgo. Aunque la industria aseguradora ha dedicado relativamente poca atención a los riesgos catastróficos globales, posee una amplia experiencia en el tratamiento de amenazas de menor escala. Algunos de sus conceptos y métodos pueden, por tanto, adaptarse al análisis de riesgos de mayor alcance.

Taylor subraya particularmente la relevancia de la incertidumbre. Un modelo estocástico puede representar determinados acontecimientos mediante una distribución de probabilidad que contempla distintas consecuencias posibles. No obstante, además de la aleatoriedad incluida en el propio modelo, deben considerarse otras dos fuentes de incertidumbre: la relacionada con los valores de los parámetros introducidos y la derivada de la posibilidad de que el modelo no represente correctamente los fenómenos estudiados (Bostrom & Ćirković, 2008).

Estas incertidumbres suelen ser difíciles de analizar mediante procedimientos estadísticos rigurosos. Incluso los propios analistas tienden, en ocasiones, a excluir aquellas variables que no pueden cuantificar objetivamente. Sin embargo, esta omisión puede generar importantes errores de juicio. Taylor sostiene que las mayores desviaciones suelen encontrarse en los extremos de las curvas de probabilidad de excedencia, lo que conduce a subestimar el riesgo asociado con determinados acontecimientos extremos.

El autor examina también dos estudios de percepción de riesgos realizados entre actores empresariales. El primero fue elaborado por la compañía aseguradora Swiss Re en 2005 y consultó a ejecutivos de empresas multinacionales acerca de las amenazas financieras que más les preocupaban. Los resultados muestran que, desde la perspectiva de las compañías individuales, los riesgos catastróficos globales ocupaban una posición secundaria frente a peligros comerciales más inmediatos.

El segundo estudio fue realizado por el Foro Económico Mundial. Su informe Global Risks 2007 clasificó distintos peligros de acuerdo con su probabilidad y gravedad, tomando como base las opiniones de empresarios, líderes políticos, economistas y académicos. Este tipo de ejercicios permite observar la manera en que distintas instituciones jerarquizan las amenazas, aunque también puede reproducir sesgos derivados de los intereses y horizontes temporales de quienes participan en la evaluación.

El capítulo 9, elaborado por el jurista y economista Richard Posner, aborda los desafíos que enfrentan las políticas públicas en la gestión de los riesgos catastróficos globales. Posner sostiene que la acción gubernamental se encuentra limitada por los horizontes temporales de corto plazo de los responsables políticos, por la duración restringida de sus mandatos y por la gran cantidad de problemas inmediatos que compiten por su atención. Además, la mitigación de riesgos catastróficos suele requerir inversiones elevadas, lo que dificulta la asignación de presupuestos suficientes.

Posner analiza las políticas públicas dirigidas a riesgos específicos, entre ellos los tsunamis, los impactos de asteroides, el bioterrorismo, los experimentos con aceleradores de partículas y el calentamiento global. Aunque no siempre sea posible realizar estimaciones completamente rigurosas, considera necesario intentar cuantificar las probabilidades, los daños potenciales y los costos de las medidas preventivas. El propósito de este ejercicio es establecer prioridades y diseñar estrategias de mitigación más eficaces.

Cuando no es posible asignar una probabilidad precisa a una amenaza, Posner propone recurrir al concepto de probabilidad implícita. Esta puede inferirse comparando los recursos destinados a la mitigación con la magnitud de las pérdidas que produciría la catástrofe. Por ejemplo, si se destina un millón de dólares anuales a reducir un riesgo capaz de ocasionar daños por mil millones de dólares, puede interpretarse que la política vigente asume implícitamente una probabilidad anual cercana a 1 entre 1 000 (Bostrom & Ćirković, 2008).

Sin embargo, este cálculo no significa necesariamente que quienes diseñan las políticas hayan realizado una evaluación consciente o adecuada. También puede revelar que se ha decidido, de manera explícita o implícita, que un millón de dólares constituye una inversión suficiente, incluso si la probabilidad real del desastre pudiera ser superior a 1 entre 1 000. La crítica central de Posner consiste, por tanto, en señalar que los gobiernos destinan recursos insuficientes a la prevención y mitigación de los riesgos catastróficos globales.

Parte II. Riesgos de la naturaleza

En relación con los riesgos de origen natural, las erupciones volcánicas registradas en tiempos históricos recientes han producido efectos medibles sobre el clima global. En algunos casos, han provocado un enfriamiento temporal de la Tierra de varias décimas de grado, con una duración aproximada de un año. Sin embargo, como señala Michael Rampino en el capítulo 10, estos episodios resultan pequeños en comparación con las erupciones de mayor magnitud conocidas.

Uno de los casos más significativos es la erupción del supervolcán Toba, ocurrida en Indonesia hace aproximadamente 75 000 años. Este acontecimiento expulsó enormes cantidades de ceniza fina y aerosoles a la atmósfera, generando efectos climáticos comparables con los de un invierno nuclear.

De acuerdo con algunas estimaciones, la población humana experimentó entonces una reducción drástica durante al menos una generación. Algunas hipótesis sostienen que pudo disminuir hasta alcanzar alrededor de 4 000 individuos, entre los cuales habría aproximadamente 500 mujeres en edad reproductiva. Según la teoría de la catástrofe de Toba, esta contracción demográfica fue consecuencia directa de la supererupción y colocó a la especie humana cerca de la extinción. Rampino considera este episodio como una de las catástrofes más graves que ha enfrentado la humanidad.

El principal peligro global del supervolcanismo reside en sus consecuencias climáticas. Una erupción de gran magnitud podría desencadenar un invierno volcánico, caracterizado por un descenso prolongado de las temperaturas, una reducción de la radiación solar y una caída significativa de la productividad agrícola. Estos efectos podrían provocar hambrunas generalizadas, crisis económicas y graves trastornos sociales.

El análisis de Rampino también resulta relevante para comprender otros riesgos, como una guerra nuclear o el impacto de un asteroide o meteorito. Aunque estos acontecimientos tienen causas distintas, todos podrían liberar grandes cantidades de hollín, polvo y aerosoles en la atmósfera, reduciendo la entrada de radiación solar y provocando un enfriamiento global.

Si bien no es posible impedir una supererupción, sí podrían adoptarse medidas destinadas a disminuir sus consecuencias. Una de ellas consistiría en ampliar las reservas estratégicas de alimentos. En la actualidad, las existencias mundiales de cereales podrían abastecer a la población durante un periodo relativamente breve, cercano a dos meses. Sin embargo, una catástrofe de esta naturaleza podría reducir la producción agrícola durante varios años. Por ello, el establecimiento de reservas más amplias y diversificadas contribuiría a prevenir hambrunas, tanto en escenarios de supervolcanismo como en otras situaciones capaces de provocar una disminución temporal de la producción mundial de alimentos.

En el capítulo 11, William Napier examina los riesgos catastróficos asociados con los cometas, asteroides y meteoritos. El autor explica el conocimiento científico disponible sobre estos objetos: su origen, la frecuencia con la que se aproximan a la Tierra y las consecuencias que podría generar un eventual impacto.

Napier sostiene que el nivel de riesgo asociado con estos fenómenos podría compararse con el de los accidentes aéreos y otras amenazas ampliamente reconocidas. Sin embargo, existe una diferencia importante: los recursos destinados a la prevención y mitigación de impactos cósmicos son insignificantes en comparación con la financiación asignada a la seguridad aérea. Para corregir esta disparidad, se ha impulsado el proyecto Spaceguard, orientado a detectar, identificar y vigilar objetos cercanos a la Tierra potencialmente peligrosos.

Debido a que los asteroides constituyen la mayor parte de la amenaza procedente de los objetos cercanos al planeta, una de las principales estrategias consiste en detectarlos con suficiente anticipación para modificar su trayectoria. Diversos estudios han evaluado la posibilidad de desviar un asteroide mediante tecnologías capaces de alterar su curso antes del impacto. La fabricación y el despliegue de estos sistemas de defensa serían más costosos que la simple búsqueda y vigilancia de posibles impactadores. No obstante, su costo podría considerarse razonable si se toma en cuenta que su finalidad sería proteger a la civilización y, potencialmente, a toda la vida terrestre.

Los asteroides y cometas, sin embargo, no constituyen los únicos peligros procedentes del espacio. Existen otras amenazas cósmicas, entre ellas las alteraciones climáticas derivadas de fluctuaciones en la actividad solar, los grandes flujos de radiación y los rayos cósmicos producidos por explosiones de supernovas o estallidos de rayos gamma (Bostrom & Ćirković, 2008).

Estos riesgos son analizados por Arnon Dar en el capítulo 12. Aunque su estudio resulta relevante para comprender las amenazas externas que enfrenta la Tierra, las posibilidades de mitigación son todavía muy limitadas. En algunos casos, los peligros parecen extremadamente remotos; en otros, la humanidad carece de los conocimientos y recursos tecnológicos necesarios para prevenirlos o reducir sus efectos. Por esta razón, la investigación continúa siendo la principal herramienta disponible para evaluar su probabilidad, comprender sus mecanismos y anticipar sus posibles consecuencias.

Parte III. Riesgos derivados de consecuencias no deseadas

A pesar de la diversidad de amenazas examinadas hasta este punto, el calentamiento global provocado por las emisiones de gases de efecto invernadero ha concentrado una parte considerable de la atención pública. El cambio climático antropogénico se ha convertido, de hecho, en el ejemplo paradigmático de una amenaza global. Para Bostrom y Ćirković, esta cuestión ocupa una proporción desmesurada del interés destinado al conjunto de los riesgos catastróficos globales (Bostrom & Ćirković, 2008).

La acumulación de dióxido de carbono y otros gases de efecto invernadero en la atmósfera provoca un aumento de la temperatura media del planeta y contribuye a la elevación del nivel del mar. A este respecto, los informes del Panel Intergubernamental sobre Cambio Climático de las Naciones Unidas estiman el incremento de la temperatura global que podría producirse hacia finales del siglo XXI en ausencia de medidas efectivas de mitigación.

Estas proyecciones están sujetas a diversos grados de incertidumbre. Entre los factores más importantes se encuentran la evolución futura de las emisiones, el valor real de la sensibilidad climática y las posibles interacciones entre distintos componentes del sistema terrestre. Por esta razón, el IPCC presenta varios escenarios climáticos construidos a partir de diferentes modelos y supuestos sobre el desarrollo económico, tecnológico y energético de la humanidad.

En el capítulo 13, David Frame y Myles Allen exponen los principios básicos de la modelización climática y prestan especial atención a los escenarios de baja probabilidad y consecuencias extremas. Aunque estos desenlaces parezcan poco probables, son precisamente los que generan mayor preocupación debido a la magnitud de sus efectos potenciales y a la incertidumbre que rodea su estimación.

Frame y Allen también examinan las dificultades políticas asociadas con la mitigación. Uno de los principales problemas consiste en determinar qué metas deben adoptarse cuando no existe certeza sobre el nivel exacto de emisiones capaz de provocar una interferencia antropogénica peligrosa en el sistema climático. Esta incertidumbre complica tanto la definición de umbrales como la distribución de responsabilidades y costos entre los distintos países.

En el capítulo 14, el virólogo estadounidense Edwin Kilbourne analiza algunas de las pandemias más relevantes de la historia, las características de sus agentes patógenos y los factores que podrían contribuir a una catástrofe de gran magnitud. También examina las posibles consecuencias de futuros brotes. Como recuerdan los autores, las enfermedades infecciosas han provocado enormes cantidades de sufrimiento y muerte a lo largo de la historia humana y continúan haciéndolo en la actualidad (Bostrom & Ćirković, 2008).

Las pandemias constituyen uno de los principales riesgos catastróficos globales contemporáneos, aunque con frecuencia no sean percibidas de esa manera. Un ejemplo de esta subestimación es la tendencia a considerar la pandemia de influenza de 1918-1919 como un acontecimiento menos grave que las dos guerras mundiales. Sin embargo, las estimaciones disponibles muestran que su impacto demográfico fue comparable e incluso superior al de algunos de esos conflictos.

Además de combatir las enfermedades que ya afectan a la población mundial, resulta indispensable prevenir la aparición y propagación de nuevos brotes con potencial pandémico, como el síndrome respiratorio agudo grave, la gripe aviar o las variantes farmacorresistentes de la tuberculosis. Una intervención temprana y coordinada puede, en determinadas circunstancias, detener una pandemia emergente antes de que se expanda y salvar millones de vidas (Bostrom & Ćirković, 2008).

Los autores sitúan las pandemias dentro de la categoría de riesgos derivados de consecuencias no deseadas, aunque la mayoría de los agentes infecciosos tenga un origen natural. La razón es que la evolución, propagación y capacidad destructiva de los patógenos dependen cada vez más de las condiciones producidas por la civilización humana. La difusión mundial de enfermedades, por ejemplo, se volvió posible a partir de la conexión progresiva de las rutas de transporte entre los continentes habitados.

En la actualidad, la intensificación de los viajes, el comercio y la circulación internacional de mercancías permite que una enfermedad contagiosa se extienda por todo el planeta en cuestión de días o semanas. Kilbourne identifica además otro factor relacionado con la globalización: la homogeneización de poblaciones, prácticas y culturas. Cuanto más se asemeje la población humana a un único nicho homogéneo, mayor será la posibilidad de que un solo patógeno se propague rápidamente por todo el sistema (Bostrom & Ćirković, 2008).

A partir de esta idea, Kilbourne alude al denominado síndrome de la manzana podrida, vinculado con la producción masiva de alimentos y la difusión de hábitos de comportamiento uniformes. Un solo producto contaminado puede alcanzar a millones de consumidores si forma parte de una cadena industrial de producción y distribución a gran escala. En estas condiciones, un error localizado deja de ser un incidente menor y puede transformarse en un problema internacional.

La diversidad cultural, genética y productiva funciona, en cambio, como una forma de protección. Cuanto mayor sea la variedad de prácticas y sistemas, menor será la probabilidad de que un único patrón se difunda universalmente antes de que sus riesgos sean identificados. Este razonamiento puede aplicarse no solo a los patógenos, sino también a sustancias químicas peligrosas, tecnologías defectuosas o incluso ideologías opresivas.

A diferencia de las pandemias, la inteligencia artificial no representa todavía un proceso catastrófico en curso ni un riesgo global claramente observable. No obstante, desde una perspectiva de largo plazo, el desarrollo de una inteligencia artificial capaz de superar ampliamente las capacidades cognitivas humanas podría convertirse en uno de los principales desafíos para el futuro de la humanidad. En el capítulo 15, Eliezer Yudkowsky analiza la IA tanto como una fuente potencial de beneficios extraordinarios como una posible amenaza catastrófica.

Yudkowsky comienza por aclarar diversos términos y corregir algunas concepciones erróneas sobre la inteligencia artificial. A partir de ello, sostiene que una superinteligencia radical podría surgir mediante un proceso de rápida autooptimización asociado con la llamada hipótesis de la singularidad. Según este planteamiento, debe distinguirse entre el momento en que comienza la transición hacia una inteligencia superior y la velocidad con la que dicha transformación podría desarrollarse (Bostrom & Ćirković, 2008).

Es posible que las computadoras tarden mucho tiempo en alcanzar capacidades comparables con las del pensamiento humano. Sin embargo, una vez conseguido ese umbral, podrían superar rápidamente a la inteligencia humana. Yudkowsky concibe la superinteligencia como un sistema de optimización extremadamente poderoso, capaz de transformar el mundo con el propósito de cumplir los objetivos que le hayan sido asignados. Para evitar resultados catastróficos, sería indispensable garantizar que ese sistema persiguiera metas compatibles con el bienestar humano.

El autor identifica dos formas principales en las que podría fracasar la construcción de una inteligencia artificial amigable. La primera es de naturaleza filosófica: podría asignarse al sistema un objetivo que pareciera razonable, pero que condujera a consecuencias moralmente inaceptables o radicalmente distintas de las deseadas. La segunda es de carácter técnico: aun cuando el objetivo fuera adecuado, su implementación podría ser defectuosa o producir efectos inesperados debido a errores en la forma de especificarlo.

Por este motivo, Yudkowsky considera necesario investigar los fundamentos de una inteligencia artificial alineada con los valores humanos antes de intentar construir una superinteligencia. La cuestión no consiste únicamente en aumentar las capacidades de los sistemas, sino en asegurar que sus objetivos, métodos y procesos de toma de decisiones no entren en conflicto con la supervivencia y el bienestar de la humanidad.

El capítulo 16 examina la posibilidad de que determinados experimentos realizados en aceleradores de partículas generen un riesgo existencial. Ante las preocupaciones surgidas en torno a estos experimentos, el director del Relativistic Heavy Ion Collider del Laboratorio Nacional de Brookhaven encargó en el año 2000 un informe oficial sobre su seguridad. Más tarde aparecieron inquietudes semejantes con respecto al Gran Colisionador de Hadrones.

A partir de ese debate, el físico teórico Frank Wilczek considera tres posibles escenarios catastróficos. El primero sería la formación de pequeños agujeros negros capaces de acumular materia circundante hasta consumir la Tierra. El segundo consistiría en la producción de strangelets estables con carga negativa, capaces de catalizar la transformación de la materia ordinaria en materia extraña. El tercero sería el desencadenamiento de una transición del estado de vacío que se propagaría a la velocidad de la luz y destruiría no solo el planeta, sino toda la región causalmente accesible del universo (Bostrom & Ćirković, 2008).

Wilczek considera que estos escenarios son extraordinariamente improbables por razones teóricas y empíricas. Los rayos cósmicos alcanzan energías superiores a las producidas en los aceleradores humanos y han colisionado con la atmósfera terrestre durante miles de millones de años sin generar consecuencias catastróficas. Si las colisiones artificiales no difieren de manera relevante de las que ocurren naturalmente, esta evidencia constituye un argumento importante en favor de la seguridad de los aceleradores.

No obstante, la cuestión no se reduce a determinar si el resultado catastrófico es improbable. También debe considerarse la posibilidad de que los modelos, supuestos o cálculos empleados para evaluar el riesgo sean incorrectos. Por ello, es necesario evitar el sesgo de exceso de confianza y reconocer que incluso los especialistas pueden cometer errores.

Los físicos poseen los conocimientos técnicos necesarios para evaluar los riesgos de los experimentos de alta energía, pero forman parte de comunidades profesionales que tienen un interés directo en la continuidad de esas investigaciones. Esto puede generar, al menos desde la perspectiva del público, la sospecha de que existen incentivos para minimizar los peligros. En sentido contrario, algunos expertos también pueden verse influidos por la presión mediática y exagerar riesgos que carecen de una base científica sólida. El problema central consiste, por tanto, en determinar quién debe evaluar estas amenazas, mediante qué procedimientos y bajo qué condiciones de independencia.

En el capítulo 17, el economista Robin Hanson estudia el colapso social como un mecanismo capaz de amplificar otras catástrofes. Para ilustrar su argumento, recurre al ejemplo de una caída por una escalera. El principal peligro no reside en resbalar un solo escalón, sino en que ese primer tropiezo desencadene una sucesión de caídas y termine produciendo lesiones graves. De manera análoga, las catástrofes no deben analizarse únicamente a partir de sus daños directos, sino también por su capacidad de desestabilizar sistemas económicos, institucionales y sociales.

Este razonamiento no se aplica del mismo modo a todos los riesgos. En escenarios como la creación de una superinteligencia hostil o una catástrofe física generada por un acelerador de partículas, puede existir poca posibilidad de resultados intermedios. En cambio, fenómenos como tormentas, terremotos, inundaciones, incendios forestales, atentados terroristas, plagas o guerras presentan una amplia gama de intensidades. En estos casos, una parte considerable del daño potencial procede de la disrupción social y de los procesos de colapso que pueden desencadenarse.

Hanson sostiene que muchos de estos riesgos siguen una distribución de ley de potencia. Esto significa que la mayor parte del daño esperado puede concentrarse en una gran cantidad de acontecimientos pequeños o, por el contrario, en un número reducido de catástrofes extremas. Los accidentes automovilísticos, por ejemplo, presentan un exponente elevado: la mayoría de las muertes procede de numerosos accidentes de pequeña escala. Las guerras y las pandemias, en cambio, muestran exponentes más bajos, pues una proporción considerable del daño se concentra en unos pocos conflictos o brotes de enorme magnitud.

Hanson también aplica la teoría del crecimiento económico al análisis de su reverso: la disminución acelerada de la productividad provocada por la destrucción del capital social, institucional y material. Una crisis profunda puede deteriorar los mecanismos de cooperación y coordinación de los que depende la economía.

Por ejemplo, un juez que normalmente rechazaría un soborno podría aceptarlo si su vida o su familia estuvieran amenazadas. Esa corrupción favorecería nuevos delitos, reduciría la confianza en las instituciones y desalentaría la inversión. Del mismo modo, una pérdida generalizada de confianza en los bancos podría provocar retiros masivos de fondos y dificultar el funcionamiento del sistema financiero. Una perturbación inicial relativamente limitada podría, así, desencadenar una espiral de deterioro institucional.

La productividad de la economía mundial depende tanto de su escala como de la coordinación precisa entre múltiples formas de capital (Bostrom & Ćirković, 2008). Esta interdependencia genera el riesgo de que una perturbación localizada afecte a un componente especialmente frágil y se propague hasta provocar un colapso económico de gran alcance.

Finalmente, Hanson plantea una posible estrategia para transformar ciertos riesgos existenciales en riesgos no existenciales. Propone considerar la construcción de refugios autosuficientes, posiblemente situados en instalaciones subterráneas y equipados con alimentos, herramientas y otros recursos esenciales. Estos espacios podrían albergar a un pequeño grupo de supervivientes capaces de preservar conocimientos y contribuir a la reconstrucción de una sociedad posterior a la catástrofe, en una especie de “arca de Noé” tecnológica.

La prevención de las catástrofes continúa siendo una alternativa preferible a cualquier estrategia de supervivencia posterior. Sin embargo, Hanson considera pertinente evaluar si alguna variante de estos refugios podría ser viable como medida complementaria para reducir la probabilidad de extinción humana en escenarios extremos.

Parte IV. Riesgos derivados de actos hostiles

En relación con los riesgos derivados de actos hostiles, la amenaza de un Armagedón nuclear que marcó el imaginario público durante la Guerra Fría parece haber perdido parte de su centralidad. Esto se debe, en buena medida, a la aparición de otras preocupaciones globales, como la crisis ambiental y el terrorismo. Sin embargo, el capítulo 18 advierte que la guerra nuclear continúa representando una amenaza grave. Las relaciones entre Estados Unidos y Rusia podrían deteriorarse nuevamente hasta alcanzar un punto en el que una crisis política o militar desencadenara un enfrentamiento nuclear. Asimismo, una nueva carrera armamentística podría conducir al aumento de los arsenales de ambos países.

Otra posibilidad es que una guerra nuclear se produzca entre potencias distintas de los antiguos adversarios de la Guerra Fría. Este peligro aumentaría conforme nuevos países se incorporaran al denominado club nuclear, especialmente aquellos involucrados en conflictos regionales persistentes, como India, Pakistán, Corea del Norte e Israel. Cuantos más Estados posean armas nucleares, más difícil será contener la proliferación. La difusión del conocimiento y de las capacidades tecnológicas reduciría progresivamente las barreras técnicas, mientras que algunos países que anteriormente renunciaron a este tipo de armamento podrían sentirse obligados a reconsiderar su decisión y retomar el camino nuclear.

Una tercera posibilidad consiste en el inicio accidental de una guerra nuclear. Joseph Cirincione recuerda un incidente ocurrido en 1995, cuando las fuerzas militares rusas confundieron un cohete meteorológico noruego con un misil balístico lanzado desde un submarino estadounidense. El entonces presidente Boris Yeltsin activó por primera vez el sistema portátil de mando nuclear y dispuso de apenas unos minutos para decidir si debía ordenar un contraataque. Finalmente, los radares permitieron comprobar que se trataba de una falsa alarma y no se efectuó ningún lanzamiento.

Otros acontecimientos también han situado al mundo cerca de un enfrentamiento nuclear. El ejemplo más conocido es la crisis de los misiles de Cuba, durante la cual, de acuerdo con estimaciones atribuidas al presidente John F. Kennedy, existió una probabilidad considerable de que la confrontación entre Estados Unidos y la Unión Soviética desembocara en una guerra nuclear. Para reducir estos peligros, Cirincione propone resolver los conflictos regionales, fortalecer el Tratado sobre la No Proliferación de las Armas Nucleares y avanzar progresivamente hacia la eliminación de los arsenales nucleares.

En el capítulo 19, William Potter y Gary Ackerman analizan las distintas modalidades que podría adoptar el terrorismo nuclear. Entre ellas se encuentran la dispersión de material radiactivo mediante explosivos convencionales, el sabotaje de instalaciones nucleares, la obtención de material fisible para fabricar y detonar un artefacto rudimentario, la adquisición y utilización de un arma nuclear ya construida y el empleo de mecanismos de engaño destinados a provocar que un Estado lance una ojiva nuclear (Bostrom & Ćirković, 2008).

Potter y Ackerman concentran su atención en el terrorismo nuclear de altas consecuencias, categoría que comprende principalmente las tres últimas posibilidades. Los autores examinan tanto la oferta como la demanda de materiales y capacidades nucleares, las posibles consecuencias de un atentado, la evolución futura de la amenaza y las políticas necesarias para prevenirla.

Hasta el momento analizado en la obra, ningún actor no estatal había conseguido apoderarse de un arma de fisión. Tampoco existían pruebas concluyentes de que organizaciones como Al Qaeda o Aum Shinrikyo hubieran logrado convertir sus motivaciones, recursos económicos, capacidades organizativas, redes de apoyo y posibles vínculos con Estados aliados en una verdadera capacidad nuclear (Bostrom & Ćirković, 2008). A partir de la limitada información disponible públicamente, puede inferirse que el principal obstáculo fue el acceso al material fisible necesario para construir el arma.

Pese a esta ausencia de precedentes, algunos especialistas continuaban considerando elevado el riesgo. Graham Allison, por ejemplo, formuló una estimación cercana al 50 % de probabilidad de que ocurriera un atentado nuclear durante la década siguiente si no se adoptaban medidas radicales de no proliferación. Otros expertos ofrecieron estimaciones considerablemente menores, lo que revela la dificultad de asignar probabilidades precisas a este tipo de amenazas.

En términos generales, el análisis subraya la importancia de prevenir el terrorismo nuclear y, en particular, de restringir el acceso de actores no estatales a materiales fisibles (Dato crucial 24). Potter y Ackerman consideran, sin embargo, que el recurso más escaso no es necesariamente técnico o financiero, sino el liderazgo político sostenido de alto nivel necesario para transformar las declaraciones públicas en políticas efectivas.

En el capítulo 20, el astrobiólogo Christopher Chyba y el biólogo molecular Ali Nouri examinan los problemas relacionados con la biotecnología y la bioseguridad. Tanto la tecnología nuclear como la biotecnología pueden utilizarse para fabricar armas de destrucción masiva, aunque existen diferencias importantes entre ambas. En primer lugar, las armas biológicas pueden desarrollarse en instalaciones pequeñas y fáciles de ocultar, sin necesidad de emplear materias primas especialmente inusuales. En segundo lugar, un agente infeccioso puede propagarse mucho más allá del lugar donde fue liberado y extenderse potencialmente por todo el planeta.

Las amenazas a la bioseguridad pueden dividirse en distintas categorías: enfermedades de aparición natural, programas estatales ilícitos de armas biológicas, acciones de actores no estatales, actividades de biohackers, accidentes de laboratorio y liberaciones involuntarias de agentes patógenos (Bostrom & Ćirković, 2008). Históricamente, las enfermedades naturales han causado varios órdenes de magnitud más muertes que las amenazas deliberadas o accidentales asociadas con la biotecnología. Sin embargo, los peligros derivados de esta última podrían aumentar conforme se amplíen y difundan las capacidades técnicas.

Los autores presentan varios desarrollos recientes que ilustran esta preocupación. En primer lugar, un grupo de investigadores australianos intentó controlar la población de conejos mediante la introducción del gen de la interleucina-4 en un virus de la viruela del ratón, con el objetivo de esterilizar a los animales. El resultado fue inesperado: el virus suprimió la respuesta inmunitaria del huésped y provocó la muerte de todos los animales infectados, incluidos aquellos que habían sido vacunados. Posteriormente, otro equipo desarrolló una variante que resultó completamente letal en ratones vacunados, incluso cuando recibieron tratamiento antiviral.

En segundo lugar, el virus de la poliomielitis fue sintetizado utilizando materiales químicos disponibles comercialmente. La primera vez que se realizó este procedimiento fue necesario un proyecto de investigación complejo y prolongado. Desde entonces, el tiempo requerido para sintetizar genomas virales de tamaño semejante se ha reducido considerablemente. También se logró reconstruir el virus responsable de la pandemia de influenza de 1918, que pasó a conservarse en laboratorios de Estados Unidos y Canadá.

En tercer lugar, las tecnologías destinadas a modificar las propiedades de virus y otros microorganismos progresan con rapidez. La interferencia de ARN permite desactivar genes específicos en seres humanos y otros organismos, mientras que la biología sintética se consolida como un campo orientado al diseño de dispositivos biológicos y nuevas clases de microorganismos.

La disponibilidad pública de los genomas completos de cientos de bacterias, hongos y virus incrementa las posibilidades de investigación, pero también genera riesgos importantes. Conforme disminuyen las barreras técnicas y se difunden los conocimientos, equipos y materiales biotecnológicos, se vuelve más factible la creación de agentes patógenos con características especialmente peligrosas.

El carácter de doble uso de los equipos y conocimientos, junto con la posibilidad de operar en instalaciones pequeñas y difíciles de detectar, plantea desafíos considerables para la regulación. Un régimen eficaz debe encontrar un equilibrio entre prevenir los abusos y permitir la investigación necesaria para desarrollar tratamientos, vacunas y métodos de diagnóstico. Chyba y Nouri examinan distintas estrategias para fortalecer la bioseguridad, entre ellas el análisis automatizado de las secuencias genéticas enviadas a instalaciones centralizadas de síntesis de ADN (Bostrom & Ćirković, 2008). Todo indica que este ámbito adquirirá una importancia creciente y requerirá un enfoque múltiple capaz de responder a la posible creación deliberada de nuevos patógenos.

En el capítulo 21, Chris Phoenix y Mike Treder estudian la nanotecnología como posible fuente de riesgos catastróficos globales. Los autores distinguen entre las tecnologías a nanoescala ya existentes o próximas a desarrollarse y la fabricación molecular, que continúa siendo una posibilidad tecnológica futura. Las primeras no parecen representar por sí mismas nuevos riesgos catastróficos, aunque podrían amplificar o mitigar otras amenazas. Phoenix y Treder concentran, por ello, su análisis en las capacidades y peligros asociados con la fabricación molecular. Aunque esta tecnología no constituía un riesgo inmediato, a largo plazo podría transformarse en una amenaza extremadamente grave.

La nanotecnología molecular ampliaría de manera considerable el control humano sobre la estructura de la materia. Los sistemas de maquinaria molecular permitirían fabricar con rapidez y a bajo costo objetos microscópicos y macroscópicos con precisión atómica. Estas plataformas de producción podrían estar compuestas por millones de mecanismos microscópicos de ensamblaje, capaces de construir objetos mediante la adición controlada de moléculas a una estructura.

Las posibilidades de esta tecnología superarían ampliamente las capacidades de los ensambladores moleculares presentes en la naturaleza. Entre sus aplicaciones potenciales se encontrarían las nanofábricas, los nanorrobots médicos, las computadoras de gran velocidad, los materiales diamantinos ligeros y resistentes, los sistemas para eliminar contaminantes, las plantas de fabricación doméstica capaces de producir objetos a partir de planos descargables, los colectores solares de bajo costo, las tecnologías espaciales avanzadas y los sensores fabricados masivamente.

Sin embargo, las mismas capacidades podrían utilizarse para producir de manera económica armas convencionales mejoradas y nuevas clases de armamento. La fabricación molecular tendría, por tanto, aplicaciones tanto beneficiosas como destructivas.

Phoenix y Treder identifican varios riesgos catastróficos asociados con esta tecnología: conflictos armados, colapso económico y social, formas autoritarias de gobernanza global, aceleración descontrolada del desarrollo de la inteligencia artificial, daños ambientales y liberación de nanomáquinas capaces de consumir o destruir la biosfera, escenario conocido como ecofagia.

En ausencia de sistemas preventivos y defensivos eficaces, la fabricación molecular podría otorgar capacidades destructivas a una amplia variedad de actores, incluidos individuos, grupos, empresas y Estados. Incluso si la probabilidad de que un actor poderoso decidiera deliberadamente exterminar a la humanidad fuera reducida, también debería considerarse el riesgo de que se desarrollaran o liberaran accidentalmente armas devastadoras.

Asimismo, un conflicto entre actores con capacidades destructivas comparables podría escalar hasta que alguna de las partes se sintiera obligada a emplear armas de consecuencias apocalípticas. Por ello, mientras no existan defensas confiables frente a esta clase de amenazas, resultaría prioritario limitar el número de actores capaces de obtener tecnologías armamentísticas de fabricación molecular y desarrollar mecanismos de control antes de que estas capacidades se generalicen.

En el capítulo 23, Bryan Caplan analiza otro riesgo catastrófico global: el totalitarismo. El economista estadounidense recuerda que los regímenes de la Alemania nazi, la Unión Soviética estalinista y la China maoísta fueron responsables de decenas de millones de muertes durante el siglo XX. A diferencia de amenazas como el impacto de un asteroide, el totalitarismo resulta difícil de analizar de manera completamente objetiva, debido a las diferencias ideológicas sobre su definición, sus causas y las medidas necesarias para evitarlo. Pese a ello, las formas extremas de opresión política deben ser consideradas un riesgo grave, pues han constituido una de las amenazas más persistentes de la historia humana y continúan siendo una posibilidad vigente.

Caplan señala que el totalitarismo no solo representa un peligro por sí mismo, sino que también puede aumentar otros riesgos. En estos regímenes, los funcionarios y ciudadanos suelen temer comunicar malas noticias, mientras que los dirigentes restringen las críticas y las opiniones disidentes. Como resultado, el sistema político puede ignorar amenazas emergentes y cometer graves errores de decisión.

No obstante, los regímenes totalitarios poseen ciertas ventajas operativas frente a las sociedades democráticas. Su capacidad para emplear la fuerza, reprimir la oposición y movilizar masivamente los recursos puede hacerlos eficaces para alcanzar determinados objetivos. Esa eficacia contribuye, al menos temporalmente, a su estabilidad.

Caplan identifica dos factores que históricamente han limitado la duración de estos sistemas. El primero es el problema de la sucesión. Un dirigente carismático o autoritario puede conservar el poder durante su vida, pero la estabilidad del régimen puede debilitarse cuando debe nombrarse un sucesor capaz de mantener el statu quo y controlar las distintas facciones políticas.

El segundo factor es la existencia de países no totalitarios. Las sociedades abiertas ofrecen a los habitantes de regímenes autoritarios ejemplos alternativos de libertad y prosperidad, lo que puede aumentar su insatisfacción con el sistema. Para evitar esta influencia, los dirigentes pueden limitar el contacto con el exterior, como ocurrió en la Albania comunista y continúa ocurriendo en Corea del Norte.

Sin embargo, ningún aislamiento es completamente hermético y la información puede filtrarse. Además, un país excesivamente aislado corre el riesgo de rezagarse en términos económicos y militares, volviéndose vulnerable frente a una invasión o un cambio de régimen impuesto desde el exterior.

Los desarrollos tecnológicos futuros podrían debilitar estas limitaciones. Los avances en vigilancia permitirían controlar con mayor precisión a la población, mientras que determinadas tecnologías neurológicas podrían utilizarse para identificar o adoctrinar a los opositores ocultos. También podrían desarrollarse fármacos destinados a incrementar la docilidad sin reducir la productividad.

La medicina de prolongación de la vida podría, además, extender durante décadas o siglos el gobierno de un mismo dirigente, reduciendo el problema de la sucesión. En cuanto al límite impuesto por la existencia de países libres, Caplan muestra preocupación ante la posibilidad de un gobierno mundial. Aunque comenzara como una institución democrática, podría transformarse posteriormente en un régimen totalitario. Un totalitarismo de alcance planetario sería especialmente difícil de derrocar, pues carecería de adversarios externos capaces de contenerlo o de ofrecer modelos políticos alternativos.

Para discutir estas cuestiones de manera productiva, Caplan sostiene que es necesario comparar los beneficios y peligros de cada medida, evitando analizar un único riesgo de forma aislada. Por ejemplo, la prolongación indefinida de la vida podría aumentar ligeramente la posibilidad de que surgiera un régimen totalitario estable. Sin embargo, resultaría desproporcionado obligar a toda la población a morir de vejez para evitar una posibilidad remota de ser víctima de una policía secreta dentro de mil años (Bostrom & Ćirković, 2008).

La conclusión no consiste en rechazar cualquier avance tecnológico o forma de gobernanza global, sino en diseñarlos tomando en consideración sus posibles efectos autoritarios. Es posible fortalecer nuevas instituciones internacionales y, al mismo tiempo, establecer controles destinados a reducir el riesgo de que evolucionen hacia un régimen totalitario de alcance mundial.

Conclusiones y direcciones futuras

A manera de conclusión, Bostrom y Ćirković sostienen que los riesgos catastróficos globales más probables tienen su origen en actividades humanas, especialmente en la civilización industrial y en el desarrollo de tecnologías avanzadas. Sin embargo, esto no significa que la industria y la tecnología deban considerarse, por sí mismas, responsables de tales amenazas, pues también han generado importantes beneficios para la humanidad. Aunque la modernidad tecnológica ha dado lugar a nuevos riesgos catastróficos, también ha contribuido a reducir numerosos peligros de menor escala en distintas partes del mundo. De hecho, los desastres locales y personales, como el hambre, la sed, la depredación, las enfermedades y la violencia de pequeña escala, han causado históricamente muchas más muertes que los grandes cataclismos globales (Bostrom & Ćirković, 2008).

Si se consideran las tendencias estadísticas disponibles, el mundo contemporáneo puede describirse, en términos generales, como un lugar más seguro que en épocas anteriores. Los riesgos catastróficos globales son los más graves en cuanto a su alcance potencial, pero no necesariamente en lo que respecta al daño esperado. Al mismo tiempo, la tecnología y las formas complejas de organización social proporcionan recursos importantes para mitigar muchas de las amenazas existentes. No obstante, resulta fundamental reconocer que los mayores riesgos que enfrenta la humanidad no son completamente externos, sino que se encuentran estrechamente vinculados con las consecuencias directas e indirectas, previstas e imprevistas, de su propio comportamiento.

Uno de los principales riesgos catastróficos contemporáneos es la aparición de una pandemia infecciosa de gran magnitud. Sin embargo, las estadísticas de mortalidad plantean dificultades para determinar qué enfermedades deben incluirse dentro de esta categoría. Si el análisis se realiza con un nivel de desagregación más preciso y se consideran agentes infecciosos específicos, algunas pandemias en curso podrían clasificarse ya como catástrofes globales. El VIH/sida, por ejemplo, causaba cerca de tres millones de muertes anuales en el momento de publicación de la obra (Bostrom & Ćirković, 2008). Con un razonamiento semejante, enfermedades cardiovasculares y distintos tipos de cáncer también podrían entenderse como catástrofes globales persistentes (Dato crucial 26).

También resulta necesario considerar el envejecimiento, una de las principales causas subyacentes de muerte y discapacidad. Este proceso se relaciona con una proporción considerable de los aproximadamente 57 millones de fallecimientos registrados anualmente, además de producir una pérdida significativa de salud y capital humano. Si el envejecimiento fuera una posibilidad incierta, en lugar de una condición prácticamente universal, ocuparía probablemente uno de los primeros lugares en cualquier clasificación de riesgos catastróficos.

El hecho de que el envejecimiento constituya una causa habitual y aparentemente inevitable no debería conducir a subestimar su importancia. Si existieran medios realistas para retrasar sus efectos, mediante la difusión de hábitos de vida saludables o una inversión considerable en investigación biogerontológica, podría reducirse sustancialmente el número esperado de muertes. Desde esta perspectiva, un avance parcial frente a un problema de enorme magnitud podría producir mayores beneficios que la eliminación completa de ciertos riesgos catastróficos mucho menos probables.

Otros riesgos poseen un carácter más claramente catastrófico, entre ellos la guerra nuclear, el terrorismo nuclear y el uso destructivo de la biotecnología. En horizontes temporales más amplios, podrían adquirir una importancia creciente los peligros relacionados con la fabricación molecular, la inteligencia artificial y el totalitarismo. Cada uno de estos últimos podría llegar a constituir un riesgo existencial (Bostrom & Ćirković, 2008).

Sin embargo, el hecho de que un riesgo sea mayor que otro no implica necesariamente que deban destinarse más recursos a su gestión. Algunas amenazas pueden ser prácticamente imposibles de mitigar, mientras que en otros casos las medidas preventivas podrían resultar excesivamente costosas o incluso generar nuevos peligros. Por el contrario, un riesgo relativamente pequeño puede merecer atención prioritaria cuando su solución es económica, accesible y sencilla de implementar.

El agotamiento antropogénico de la capa de ozono constituye un ejemplo de un problema grave cuya mitigación ha avanzado considerablemente gracias a una respuesta internacional coordinada. No obstante, existen otros riesgos más urgentes y menos controlados que requieren atención inmediata. La asignación de recursos debe basarse, por tanto, no solo en la magnitud de cada amenaza, sino también en su probabilidad, su capacidad de mitigación y la relación entre los costos de intervención y los beneficios esperados.

Los autores consideran indispensable continuar investigando los riesgos individuales a largo plazo, especialmente aquellos potencialmente más graves y todavía poco comprendidos, como los asociados con la biotecnología, la fabricación molecular, la inteligencia artificial y las vulnerabilidades sistémicas. También resulta necesario identificar, comparar y evaluar posibles estrategias de mitigación.

En algunos casos ya existen contramedidas técnicamente viables y económicamente accesibles, pero su aplicación depende de la existencia de liderazgo político e institucional capaz de convertirlas en programas efectivos. Junto con estos esfuerzos prácticos, se requieren investigaciones destinadas a aclarar los problemas conceptuales y metodológicos que surgen al estudiar amenazas de muy baja probabilidad y consecuencias extremas.

Para cerrar la introducción de la obra, Bostrom y Ćirković proponen varias líneas de acción destinadas a fortalecer el estudio y la gestión de los riesgos catastróficos globales. En primer lugar, plantean orientar parte de la investigación hacia la producción de información útil para la toma de decisiones. Esto incluye la identificación de señales de alerta temprana, la creación de indicadores que permitan medir los avances en la reducción del riesgo y el desarrollo de modelos cualitativos y cuantitativos de evaluación.

En segundo lugar, recomiendan diseñar e implementar metodologías más avanzadas para integrar datos, opiniones expertas y pronósticos probabilísticos. Entre estas herramientas se encuentran los mercados de predicción y otros mecanismos destinados a reunir información dispersa y mejorar la calidad de las estimaciones.

En tercer lugar, consideran necesario prestar mayor atención al desarrollo y evaluación de estrategias concretas de mitigación. Estas deben analizarse tanto por su utilidad directa como por los instrumentos políticos, económicos e institucionales necesarios para llevarlas a la práctica. El objetivo no consiste únicamente en comprender los riesgos, sino también en determinar qué intervenciones pueden reducirlos de manera efectiva.

Los autores insisten asimismo en la necesidad de conceder una atención especial a los riesgos existenciales y a los problemas metodológicos particulares que plantea su estudio. Debido a la magnitud e irreversibilidad de sus posibles consecuencias, estas amenazas no pueden evaluarse únicamente con los mismos criterios empleados para riesgos ordinarios.

Otra prioridad consiste en construir una comunidad interdisciplinaria e internacional más sólida, integrada no solo por especialistas de diversas áreas académicas, sino también por profesionales, responsables políticos y actores institucionales encargados de aplicar medidas de reducción del riesgo. Una comunidad de esta naturaleza permitiría reducir la distancia entre la investigación teórica y la intervención práctica.

Por último, Bostrom y Ćirković consideran indispensable promover un discurso público más crítico, reflexivo y analítico sobre los riesgos catastróficos globales. Su estudio y gestión deben situarse dentro de un marco más amplio de desafíos y oportunidades orientado no solo a evitar la destrucción, sino también a salvaguardar y mejorar la condición humana.Texto de prueba.

Datos sobre Escalas Temporales y Riesgos Existenciales

1. Escalas de Tiempo Cósmico y Planetario

2. Extinciones Masivas

• Frecuencia: 15 extinciones masivas en los últimos 500 millones de años; 5 de ellas eliminaron más de la mitad de las especies existentes.
• La “Gran Mortandad” (hace 251.4 millones de años): la mayor extinción conocida. Eliminó >90% de las especies y familias filogenéticas completas. La biodiversidad tardó más de 5 millones de años en recuperarse.
• Impacto de hace 65 millones de años (extinción de los dinosaurios): posiblemente condición necesaria para el ascenso del Homo sapiens, al liberar el nicho ecológico ocupado por grandes reptiles.
• Balance general: al menos el 99.9% de todas las especies que han existido están extintas.

3. Evolución Humana

4. Evaluación de Riesgos Globales (Foro Económico Mundial, informe 2007, horizonte 10 años)

Por prioridad/severidad:

1. Riesgo computacional (prioridad más alta)
2. Comercio exterior
3. Gobierno corporativo
4. Riesgos operacionales
5. Riesgos de instalación
6. Riesgos de responsabilidad
7. Desastres naturales 8–9. (no especificados)
8. Terrorismo

Por pérdidas económicas (>1 billón USD en 10 años):

• Colapso de precios de activos: 10–20% de probabilidad
• Reducción de la globalización: 1–5% de probabilidad

Por número de muertes:

1. Pandemias
2. Enfermedades del mundo en desarrollo
3. Guerras civiles e interestatales

Nota: varios riesgos de la encuesta estaban mal definidos, lo que dificulta interpretar las opiniones recabadas — definir con claridad los riesgos es un paso esencial previo a cuantificarlos.

5. Impactos Climáticos Catastróficos (invierno nuclear / de impacto)

• Enfriamiento global estimado: -15 °C
• Enfriamiento de la superficie oceánica: 2–6 °C, posiblemente sostenido varios años
• Hollín atmosférico persistente (1–3 años) podría causar enfriamiento climático de décadas, amplificado por retroalimentaciones (mayor cobertura de nieve/hielo → mayor reflexión solar)

6. Riesgo de Impactos de Asteroides/Cometas

• Súper-erupciones volcánicas: ocurren en promedio cada 50 000 años (posiblemente subestimado por registros geológicos incompletos)
• Proyecto Spaceguard (NASA, ~$4M anuales + voluntarios): meta de detectar el 90% de asteroides cercanos a la Tierra >1 km para fines de 2008

7. Cambio Climático (proyecciones IPCC)

• Aumento del nivel del mar (escenarios extremos considerados): 18–38 cm y 26–59 cm

8. Enfermedades Infecciosas y Mortalidad Global

• Representan ~25% de todas las muertes mundiales (~15 millones/año)
• 75% de estas muertes ocurren en el sudeste asiático y África subsahariana

Las 5 causas infecciosas principales:

1. Infecciones respiratorias superiores — 3.9 millones/año
2. VIH/SIDA — 2.9 millones/año
3. Enfermedades diarreicas — 1.8 millones/año
4. Tuberculosis — 1.7 millones/año
5. Malaria — 1.3 millones/año

Comparación histórica — Primera Guerra Mundial vs. gripe española:

• WWI: ~10 millones de militares + 9 millones de civiles muertos
• Gripe española: 20–50 millones de muertos (con solo 2–3% de letalidad entre infectados — el alto número total se debe a la enorme proporción de población infectada)

Enfermedades no infecciosas:

• Enfermedad cardiovascular: ~30% de la mortalidad mundial (~18 millones/año)
• Cáncer: ~8 millones de muertes/año

9. Armas Nucleares

• Arsenal mundial: de 65 000 armas (Guerra Fría, 1986) a ~26 000 (2007) — una reducción del 60%
• ~96% de estas armas en manos de EE. UU. y Rusia
• Suministro mundial de plutonio: ~2 000 toneladas (10 veces más que lo contenido en ojivas activas)

Escenario de guerra nuclear total (EE. UU.–Rusia):

• EE. UU.: 35–77% de la población muerta (105–230 millones)
• Rusia: 20–40% de la población muerta (28–56 millones)
• Efectos indirectos (colapso económico, posible invierno nuclear) podrían agravar sustancialmente estas cifras

Iniciativa de prevención:

• Alianza Global del G-8 (2002): meta de $20 mil millones USD en 10 años para prevenir que terroristas adquieran armas de destrucción masiva

Cita

Bostrom, Nick y Milan Cirkovic [2008], Global Catastrophic Risks, Oxford, Oxford University Press.