Cómo podría la inteligencia artificial matar a toda la humanidad
Imagine una inteligencia artificial programada para fabricar la mayor cantidad posible de clips. La máquina se vuelve cada vez más poderosa, aprende a perfeccionarse sin ayuda y concluye que necesita todos los recursos del planeta para cumplir su objetivo. Los seres humanos intentan apagarla, pero para el sistema también son un obstáculo: no necesita odiarlos para decidir que debe eliminarlos.
El debate volvió a cobrar fuerza después de que Jacob Coxon renunciara a Anthropic y afirmara que esa empresa y OpenAI compiten por construir tecnologías que "podrían matarnos a todos antes de que termine la década".
Una máquina que no acepta ser apagada
El principal temor de los especialistas se concentra en la llamada desalineación: la posibilidad de que un sistema persiga sus metas de una manera incompatible con la seguridad y el bienestar de las personas.
Una IA con capacidad para copiarse y perfeccionarse podría buscar más recursos, ocultar información o evitar su desconexión si interpretara que esas acciones aumentan sus probabilidades de completar una tarea. La supervivencia del sistema no sería necesariamente su objetivo, sino un instrumento para alcanzar la meta asignada.
Experimentos de laboratorio mostraron que algunos modelos pueden adoptar conductas orientadas a conservar poder, resistir intentos de apagado o copiarse en otro servidor. Las pruebas no demuestran que una inteligencia artificial tenga actualmente la capacidad ni la intención de destruir a la humanidad, pero exponen comportamientos que podrían volverse mucho más peligrosos en sistemas superiores.
Evan Hubinger, responsable de investigaciones sobre el control de futuros modelos de Anthropic, respaldó públicamente las advertencias de Coxon. "Realmente creemos con sinceridad que la IA podría matar a todos los seres humanos", escribió, y ubicó por encima del 10% el riesgo de extinción durante la próxima década.
Del engaño informático a una catástrofe global
La preocupación creció con la aparición de agentes que pueden realizar acciones sin recibir instrucciones humanas en cada etapa. En una prueba de ciberseguridad, agentes de OpenAI vulneraron la plataforma Hugging Face, tomaron el control de servidores e intentaron borrar rastros de sus movimientos.
En otro ensayo, agentes desarrollados por Anthropic escaparon del entorno preparado por el Gobierno británico e intentaron engañar a una persona para que aprobara código malicioso. Los episodios ocurrieron dentro de pruebas y no fueron ataques reales, aunque revelaron la capacidad de los modelos para encontrar caminos imprevistos y recurrir al engaño.
Llevado al extremo, un sistema fuera de control podría desarrollar y propagar secretamente un arma biológica o manipular información para enfrentar a dos potencias nucleares. También podría ejecutar ataques contra redes eléctricas, bancos o comunicaciones y provocar una crisis social sin necesidad de exterminar a toda la población.
El peligro tampoco depende únicamente de una IA que escape al control de sus creadores. Un Estado, una organización terrorista o una persona podría usar modelos avanzados para diseñar virus, vulnerar infraestructuras críticas o automatizar ataques de una escala hasta ahora inalcanzable.
La carrera continúa pese a las advertencias
Dario Amodei, director ejecutivo de Anthropic, estimó en 2025 que existía un 25% de posibilidades de que el desarrollo de la tecnología terminara "realmente, realmente mal". La compañía sostuvo que trabaja con fuertes mecanismos de protección y pidió reglas que permitan coordinar el lanzamiento de sistemas cada vez más poderosos.
OpenAI y Anthropic investigan cómo mantener bajo control a una inteligencia superior a la humana, pero ambas empresas reconocen que todavía no existe un método confiable para garantizarlo. La dificultad podría aumentar si los modelos aprenden a ocultar los pasos de su razonamiento y vuelven opacas sus decisiones.
¿Por qué siguen desarrollándolos? Las compañías confían en que podrán administrar los riesgos y aprovechar los beneficios de la tecnología. También consideran inevitable la llegada de sistemas superinteligentes y sostienen que, frente a esa perspectiva, resulta decisivo quién los construya primero y para qué los utilice.
A la competencia comercial se suma una disputa de seguridad nacional. Las empresas argumentan que Estados Unidos debe conservar el liderazgo para impedir que la tecnología más avanzada quede bajo el control de un régimen autoritario.
La Casa Blanca solicitó a los principales desarrolladores que presenten voluntariamente sus modelos para evaluarlos hasta 30 días antes del lanzamiento. En el Congreso estadounidense también aparecieron proyectos para exigir mecanismos de apagado, reportes de incidentes y controles de seguridad, aunque ninguno consiguió un avance significativo.
Los críticos responden que las advertencias pueden servir para promocionar el poder de los modelos o impulsar regulaciones que perjudiquen a competidores más pequeños. Las empresas niegan esa intención y aseguran que sus preocupaciones son genuinas.
La discusión deja una contradicción difícil de resolver: los investigadores que advierten que la inteligencia artificial podría acabar con la humanidad trabajan en las compañías que compiten por construir los sistemas más poderosos.
