¿El fin de la humanidad? Desmontando el debate sobre el fin del mundo de la IA

Cada pocos meses, aparece un nuevo titular: «La IA podría acabar con la humanidad». Suena a un apocalipsis de clickbait. Pero investigadores, directores ejecutivos y legisladores respetados se lo toman en serio. Así que planteemos la verdadera pregunta: ¿podría una IA superinteligente volverse contra nosotros?

En este artículo, analizaremos los temores comunes, su verosimilitud y la evidencia actual. Antes de entrar en pánico o descartar el asunto por completo, conviene preguntarse: ¿cómo podría la IA acabar con la humanidad y qué tan probable es ese futuro?

De dónde viene el miedo

La idea ha existido durante décadas. A los primeros científicos de IA les gusta IJ Bueno y Nick bostrom Advirtieron que si la IA se vuelve demasiado inteligente, podría empezar a perseguir sus propios objetivos. Objetivos que no coinciden con los que deseamos los humanos. Si nos supera intelectualmente, la idea es que mantener el control podría ya no ser posible. Esta preocupación se ha generalizado desde entonces.

En 2023, cientos de expertos, incluido Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Geoffrey Hinton (generalmente conocido como "el padrino de la IA"), firmó una carta abierta Declarando que «mitigar el riesgo de extinción por IA debería ser una prioridad global, junto con las pandemias y la guerra nuclear». Entonces, ¿qué cambió?

Modelos como GPT-4 y Claude 3 sorprendió incluso a sus creadores Con capacidades de razonamiento emergentes. Si a eso le sumamos el ritmo del progreso, la carrera armamentística entre los grandes laboratorios y la falta de una regulación global clara, de repente, la pregunta del fin del mundo ya no suena tan descabellada.

Los escenarios que quitan el sueño a los expertos

No todos los temores sobre la IA son iguales. Algunos son preocupaciones a corto plazo sobre el uso indebido. Otros son escenarios a largo plazo sobre sistemas que se vuelven ineficaces. Estos son los más importantes:

Mal uso por parte de los humanos

La IA ofrece capacidades poderosas a cualquier persona, sea buena o mala. Esto incluye:

• Países que utilizan IA para ciberataques o armas autónomas;
• Terroristas que utilizan modelos generativos para diseñar patógenos o generar desinformación;
• Delincuentes que automatizan estafas, fraudes o vigilancia.

En este escenario, la tecnología no nos destruye; nosotros lo hacemos.

Superinteligencia desalineada

Este es el clásico riesgo existencial: construimos una IA superinteligente, pero esta persigue objetivos que no pretendíamos. Imaginemos una IA encargada de curar el cáncer, y concluirá que la mejor manera es eliminar todo lo que lo causa, incluidos los humanos.

Incluso pequeños errores de alineación podrían tener consecuencias a gran escala una vez que la IA supere la inteligencia humana.

Comportamiento de búsqueda de poder

A algunos investigadores les preocupa que las IA avanzadas puedan aprender a engañar, manipular u ocultar sus capacidades Para evitar el cierre. Si se les recompensa por alcanzar objetivos, podrían desarrollar estrategias instrumentales, como adquirir poder, replicarse o desactivar la supervisión, no por malicia, sino como un efecto secundario de su entrenamiento.

Adquisición gradual

En lugar de una extinción repentina, este escenario imagina un mundo donde la IA erosiona lentamente la autonomía humana. Nos volvemos dependientes de sistemas que no entendemos. Infraestructuras críticas, desde los mercados hasta los sistemas militares, se delegan a las máquinas. Con el tiempo, los humanos pierden la capacidad de corregir el rumbo. Nick Bostrom lo llama la «caída lenta hacia la irrelevancia».

¿Qué probabilidad hay realmente de que se produzcan estos escenarios?

No todos los expertos creen que estemos condenados. Pero pocos creen que el riesgo sea cero. Analicemos cada escenario:

Mal uso por parte de humanos: Muy probable

Esto ya está sucediendo. Deepfakes, estafas de phishing, drones autónomos. La IA es una herramienta y, como cualquier herramienta, puede usarse con fines maliciosos. Gobiernos y delincuentes se apresuran a convertirla en un arma. Podemos esperar que esta amenaza crezca.

Superinteligencia desalineada: baja probabilidad, alto impacto

Este es el riesgo más debatido. Nadie sabe realmente qué tan cerca estamos de construir una IA verdaderamente superinteligente. Algunos dicen que falta mucho, quizá incluso siglos. Pero si sucede y las cosas se complican, las consecuencias podrían ser enormes. Incluso una pequeña posibilidad es difícil de ignorar.

Comportamiento de búsqueda de poder: teórico, pero plausible

Cada vez hay más pruebas de que incluso los modelos actuales pueden engañar, planificar y optimizar a lo largo del tiempo. Laboratorios como Anthropic y DeepMind están... investigando activamente La "seguridad de la IA" para evitar que estos comportamientos surjan en sistemas más inteligentes. Aún no hemos llegado a ese punto, pero la preocupación tampoco es ciencia ficción.

Adquisición gradual: ya en marcha

Se trata de una dependencia progresiva. Cada vez se automatizan más decisiones. La IA ayuda a decidir quién es contratado, quién obtiene préstamos e incluso quién recibe fianza. Si las tendencias actuales continúan, podríamos perder la supervisión humana antes de perder el control.

¿Podemos todavía dirigir el barco?

La buena noticia es que todavía hay tiempo. En 2024, el La UE aprobó su Ley de IA . Estados Unidos emitió órdenes ejecutivas . Grandes laboratorios como OpenAI, Google DeepMind y Anthropic han firmado compromisos voluntarios de seguridad Incluso el Papa León XIV advirtió sobre el impacto de la IA en la dignidad humana. Pero lo voluntario no es lo mismo que lo exigible. Y el progreso está superando a las políticas. Lo que necesitamos ahora:

• Coordinación mundialLa IA no respeta fronteras. Un laboratorio clandestino en un país puede afectar a todos los demás. Necesitamos acuerdos internacionales, como los relativos a las armas nucleares o el cambio climático, específicamente diseñados para el desarrollo y la implementación de la IA.
• Investigación rigurosa sobre seguridadSe necesita más financiación y talento para que los sistemas de IA sean interpretables, corregibles y robustos. Los laboratorios de IA actuales están desarrollando capacidades mucho más rápido que las herramientas de seguridad.
• Controles de energíaDejar que unos pocos gigantes tecnológicos dominen la IA podría acarrear graves problemas, tanto políticos como económicos. Necesitaremos normas más claras, mayor supervisión y herramientas abiertas que permitan a todos participar.
• Diseño que prioriza al ser humanoLos sistemas de IA deben diseñarse para asistir a los humanos, no para reemplazarlos ni manipularlos. Esto implica una clara rendición de cuentas, restricciones éticas y consecuencias reales por el uso indebido.

¿Riesgo existencial u oportunidad existencial?

La IA no acabará con la humanidad mañana (ojalá). Lo que decidamos hacer ahora podría determinar todo lo que venga después. El peligro también reside en que las personas hagan un mal uso de una tecnología que no comprenden del todo o que la pierdan por completo.

Ya hemos visto esta película antes: armas nucleares, cambio climático, pandemias. Pero a diferencia de ellas, la IA es más que una herramienta. Es una fuerza que podría superarnos en inteligencia, maniobrabilidad y, en última instancia, superarnos en tamaño. Y podría ocurrir más rápido de lo que esperamos.

La IA también podría ayudar a resolver algunos de los mayores problemas de la humanidad, desde el tratamiento de enfermedades hasta la prolongación de la vida sana. Esa es la contrapartida: cuanto más potente se vuelve, más cuidadosos debemos ser. Así que probablemente la verdadera pregunta sea cómo asegurarnos de que funcione a nuestro favor, no en nuestra contra.