Trabalha os 20 anos seguintes pesquisando a primeira bomba de hidrogênio soviética, mas se manifesta contra o uso do artefato mesmo em testes, em 1961. Pede a redução das armas nucleares e a coexistência pacífica entre países comunistas e capitalistas em um ensaio publicado em 1968 no Ocidente, Pensamentos sobre o Progresso, a Coexistência Pacífica e a Liberdade Intelectual.
Na década de 70, amplia sua campanha de defesa dos direitos humanos dos dissidentes soviéticos, o que lhe vale o Nobel da Paz em 1975. A denúncia da invasão do Afeganistão pela União Soviética e seu clamor pelo boicote mundial às Olimpíadas de Moscou, em 1979, leva-o ao exílio, em Gorki, em janeiro de 1980. É reabilitado somente seis anos depois, no governo de Mikhail Gorbatchov. Em 1989, ano de sua morte, é eleito para o Congresso dos Deputados do Povo.