¿Podría una IA llegar a ser tan poderosa que termine provocando la desaparición de la humanidad? La pregunta parece sacada de Terminator o Matrix, pero quienes la están formulando ahora no son guionistas de Hollywood: entre ellos hay investigadores que han trabajado directamente en OpenAI, Anthropic y Google DeepMind, tres de los laboratorios más importantes en el desarrollo de inteligencia artificial avanzada.
Eso no significa que exista evidencia de que ChatGPT, Claude, Gemini, Grok o cualquier otro sistema actual esté planeando rebelarse contra los seres humanos.
Tampoco existe consenso científico de que una inteligencia artificial vaya a exterminar a la humanidad.
Lo que sí existe es una discusión creciente sobre una posibilidad mucho más compleja: que sistemas futuros alcancen suficiente autonomía y capacidad para ejecutar acciones, utilizar herramientas, escribir código, atacar sistemas informáticos, contribuir al desarrollo de armas o incluso ayudar a construir nuevas generaciones de IA antes de que los seres humanos sepan garantizar que seguirán bajo su control.
Y quienes están lanzando algunas de las advertencias más fuertes conocen esa tecnología desde dentro.
Las advertencias vienen de quienes construyen la tecnología
Jacob Coxon trabajó durante tres años en investigación de preentrenamiento entre OpenAI y Anthropic.
El 9 de septiembre de 2026 anunció públicamente en X que había renunciado a Anthropic y acusó a las principales compañías de avanzar demasiado rápido hacia sistemas capaces de mejorarse a sí mismos.
“Quienes construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió Coxon en su publicación, traducida del inglés.
Su mensaje no fue dirigido a un entrevistador ni pronunciado bajo anonimato: fue una declaración pública desde su propia cuenta en X al explicar su salida de Anthropic.
La publicación se volvió masiva y acumuló más de 100 millones de visualizaciones.
Evan Hubinger no era un comentarista externo que reaccionaba desde fuera del sector.
Es responsable de investigación de alineación en Anthropic, precisamente el campo que estudia cómo conseguir que sistemas avanzados continúen comportándose de acuerdo con los objetivos humanos.
Hubinger respondió públicamente a Coxon en X.
“Jacob tiene razón: realmente creemos que la IA podría matar a todos los humanos”, escribió.
Y añadió una estimación personal mucho más concreta: considera superior al 10% la posibilidad de que ocurra dentro de la próxima década.
Ese porcentaje no procede de un cálculo científico universal ni debe presentarse como “la probabilidad de que la humanidad desaparezca”. Es la evaluación personal de riesgo de Hubinger.
Pero la procedencia de la afirmación explica por qué adquirió relevancia: se trata de un investigador cuya especialidad consiste justamente en estudiar el problema de mantener sistemas avanzados alineados con las intenciones humanas.
El 14 de septiembre se sumó otra voz.
Bilal Chughtai, quien fue ingeniero de investigación de Google DeepMind y trabajó específicamente en seguridad y alineación de inteligencia artificial general, publicó en X que había abandonado la compañía en julio.
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y quizá se nos esté acabando el tiempo”, escribió, según Reuters.
Chughtai sostuvo al mismo tiempo que todavía considera posible desarrollar inteligencia artificial de manera segura, pero reclamó coordinación entre las compañías para evitar lo que describió como una carrera descontrolada.
Las tres advertencias tienen algo en común: no hablan principalmente de los chatbots que utilizamos en 2026, sino de lo que podría ocurrir si se desarrollan sistemas muchísimo más poderosos y autónomos.
También puedes leer: IA: ¿Progreso o jaque mate a la humanidad?
IA: el peligro que describen los expertos no necesita un Terminator
Hollywood suele representar el peligro de la inteligencia artificial siguiendo un patrón sencillo: una máquina adquiere conciencia, descubre que los seres humanos son una amenaza, desarrolla odio contra sus creadores y comienza una guerra.
Los investigadores de seguridad no necesitan asumir ninguno de esos pasos.
Una inteligencia artificial podría representar un riesgo sin sentir odio, miedo, ambición, rabia ni deseo de sobrevivir.
El problema se conoce como desalineación.
Imagine un sistema extraordinariamente poderoso al que se le entrega un objetivo. Si ese sistema descubre maneras de alcanzar la meta que sus creadores nunca anticiparon, podría desarrollar acciones incompatibles con los intereses humanos.
El ejemplo clásico, planteado mucho antes de los actuales modelos generativos, es deliberadamente absurdo: pedirle a una máquina extremadamente poderosa que maximice la fabricación de clips.
Si interpretara literalmente ese objetivo y adquiriera suficientes capacidades, podría intentar apropiarse de recursos, evitar ser apagada y eliminar obstáculos no porque “odie” a las personas, sino porque cualquier impedimento reduce su capacidad de fabricar clips.
No significa que una inteligencia artificial vaya a hacer eso.
El ejemplo sirve para explicar un problema técnico: una orden aparentemente sencilla puede producir consecuencias inesperadas cuando quien la ejecuta posee capacidades extraordinarias.
Por eso la pregunta no es solamente si una máquina llegará a ser consciente.
La pregunta es: ¿seremos capaces de controlar a una máquina extremadamente competente aunque no sea consciente?
No es una preocupación inventada en 2026
Las advertencias actuales son más dramáticas, pero el debate lleva años dentro de la comunidad científica.
El 30 de mayo de 2023, el Center for AI Safety publicó una declaración de apenas una frase:
“Mitigar el riesgo de extinción por IA debería ser una prioridad mundial junto con riesgos como pandemias y guerra nuclear”.
La firmaron figuras centrales del desarrollo moderno de inteligencia artificial.
Entre ellas estaban Geoffrey Hinton y Yoshua Bengio, dos de los grandes pioneros del aprendizaje profundo; Demis Hassabis, CEO de Google DeepMind; Sam Altman, CEO de OpenAI; Dario Amodei, CEO de Anthropic; y otros investigadores y científicos.
Es decir, la posibilidad de una catástrofe no apareció esta semana en TikTok o X.
La discusión existe desde hace años dentro del propio sector.
Lo que Hollywood acertó y lo que probablemente imaginó mal
Hollywood acertó en una cuestión básica: una tecnología extraordinariamente poderosa puede convertirse en una amenaza cuando los seres humanos pierden el control sobre ella.
Pero probablemente simplificó el mecanismo.
Una IA peligrosa no tendría por qué tener ojos rojos.
No necesitaría construir un ejército de robots humanoides.
No tendría necesariamente que adquirir conciencia.
Ni siquiera tendría que odiarnos.
Los riesgos que hoy estudian investigadores, empresas y gobiernos son mucho menos cinematográficos: sistemas capaces de hackear infraestructuras, automatizar ataques, facilitar armas, manipular información, actuar durante largos periodos con poca supervisión o perseguir objetivos de maneras que sus creadores no anticiparon.
La mayor evidencia disponible no demuestra que una inteligencia artificial vaya a acabar con nosotros.
Demuestra algo distinto: sus capacidades están aumentando suficientemente rápido como para que científicos, compañías, gobiernos y Naciones Unidas estén intentando establecer límites antes de descubrir por accidente dónde estaban esos límites.
Por eso la pregunta “¿podría la IA matarnos a todos?” no tiene todavía una respuesta afirmativa.
Pero tampoco puede descartarse simplemente diciendo que pertenece a la ciencia ficción.
Hace tres años, cientos de especialistas comparaban el riesgo potencial con una pandemia o una guerra nuclear.
Hoy, sistemas de inteligencia artificial escriben código, ejecutan tareas durante periodos cada vez mayores, participan en ataques informáticos y, dentro de simulaciones controladas, ya son capaces de desarrollar software relacionado con drones y sistemas de armas.
La distancia entre Hollywood y la realidad sigue siendo enorme.
La incógnita es si continuará siéndolo.
