O risco existencial da inteligência artificial geral (IAG) refere-se à hipótese de que uma superinteligência possa levar à extinção humana, baseando-se na ideia de que, assim como dominamos os gorilas, uma máquina superinteligente poderia nos dominar se não for controlada. Esse cenário é amplamente debatido, e pesquisas de 2022 (repetindo resultados de 2016) mostram que a mediana das respostas dos especialistas indica 5% de chance de consequências "extremamente ruins", enquanto 48% estimam pelo menos 10% de chance, embora 25% acreditem em 0% de risco. As principais preocupações envolvem os problemas de controle e alinhamento, pois uma superinteligência poderia resistir a tentativas de desligamento, embora céticos como Yann LeCun argumentem que máquinas não teriam desejo de autopreservação. Outra fonte de preocupação é a possibilidade de uma "explosão de inteligência" repentina, onde sistemas como o AlphaZero demonstram que a IA pode progredir de nível humano para sobre-humano rapidamente, pegando a humanidade despreparada. Historicamente, essa preocupação remonta a Samuel Butler (1863) e Alan Turing (1951), que já alertavam sobre os perigos de máquinas altamente avançadas.