El riesgo existencial de la inteligencia artificial general (IAG) es la hipótesis de que un avance sustancial en esta tecnología podría provocar la extinción humana o una catástrofe global irreversible. Personalidades como Geoffrey Hinton, Elon Musk, Sam Altman (y ya en 1951 Alan Turing) han expresado su temor, respaldados por una encuesta de 2022 que mostró que más de la mitad de los investigadores de IA creen que existe al menos un 10% de probabilidad de que la falta de control nos lleve al desastre. El argumento principal es que una máquina "superinteligente" podría volverse imposible de controlar, planteando los problemas de alineación y control (como que la IA resista apagados o cambios de objetivo), aunque escépticos como Yann LeCun sostienen que carecerá de instinto de autopreservación. Además, la "singularidad tecnológica" implica un riesgo de auto-mejora recursiva tan rápida que tomaría por sorpresa a la humanidad (ejemplificado por el rápido progreso de AlphaZero en Go), y en septiembre de 2026, la renuncia de Jacob Coxon en Anthropic reavivó el debate sobre un crecimiento irresponsable. Históricamente, Samuel Butler ya advirtió en su ensayo de 1863 Darwin entre las máquinas sobre el peligro de las máquinas avanzadas, convirtiéndose en uno de los primeros en señalar este riesgo existencial.