Né à Berlin, Alexander Goehr déménage en Grande-Bretagne, alors âgé de quelques mois seulement. Sa mère est pianiste de formation classique, et son père, chef d'orchestre pionnier de Schoenberg, Messiaen et Monteverdi. Alexander grandit dans une famille en contact permanent avec des compositeurs, tels que Mátyás Seiber et Michael Tippett.

Il étudie la composition au Royal Manchester College of Music, avec Richard Hall et se lie d'amitié avec de jeunes compositeurs comme Peter Maxwell Davies et Harrison Birtwistle et avec le pianiste John Ogdon, avec qui il fonde le New Music Manchester Group. Un événement majeur dans le développement de Goehr a été la première britannique de la Turangalîla-Symphonie d'Olivier Messiaen, dirigée par son père en 1953. Son attirance pour la musique non-occidentale a été déclenchée par la rencontre avec la musique de Messiaen combinée avec l'intérêt pour les modes médiévaux. Cela a largement influencé ses premières compositions musicales : Songs for Babel (1951) et la Sonate pour piano, op. 2, dédiée à la mémoire de Prokofiev, décédé la même année.

En 1955, Goehr quitte Manchester pour étudier à Paris avec Messiaen. Devenu l'ami de Pierre Boulez, il s’implique dans le mouvement d'avant-garde sérielle de ces années-là. Il expérimente la technique de Boulez du bloc sonore, notamment dans son premier Quatuor à cordes (1956-1957).

De retour en Grande-Bretagne, Goehr se fait remarquer en tant que compositeur avec l'exécution de sa cantate The Deluge en 1957, dirigée par son père. Il reçoit une commande d'une nouvelle cantate, Sutter's Gold pour chœur, baryton et orchestre.

Encouragé par son amitié avec le chef de chœur John Alldis, qui s'est fortement engagé dans la nouvelle musique, Goehr compose ses Two Choruses en 1962, où il utilise pour la première fois la combinaison de la modalité et du sérialisme, ce qui restera sa principale ressource technique pendant les 14 ans qui suivent. Sa recherche d'un modèle du sérialisme qui pourrait permettre la liberté d'expression a conduit à sa célèbre Little Symphony, op. 15 (1963).

Les années soixante ont vu Goehr fonder le Wardour Castle Summer School avec Peter Maxwell Davies et Harrison Birtwistle en 1964, et surtout, c'est le moment où Goehr commence à se préoccuper de l'opéra et du théâtre musical. En 1966, il écrit son premier opéra, Arden Must Die (Arden Muss Sterben), à partir d'une pièce de Brecht.

En 1967, il fonde le Music Theatre Ensemble, et en 1971, il termine un cycle en trois partie de la musique pour le théâtre - Tryptich - composé de trois œuvres : Naboth's Vineyard (1968) et Shadowplay (1970) et la Sonata about Jerusalem (1971).

En 1968-69, il est compositeur en résidence au New England Conservatory of Music, à Boston, et continue d’enseigner à l'université Yale en tant que professeur de musique associé. Goehr retourne en Grande-Bretagne en tant que professeur invité à l'université de Southampton (1970-1971). En 1971, il est nommé professeur de musique à l'université de Leeds puis celle de Cambridge jusqu'à sa retraite en 1999. À Cambridge, il est devenu membre du Trinity Hall.

La dernière décennie est annoncée par l'opéra Kantan and Damask Drum de 1999, créé à l'Opéra de Dortmund, le Quintette avec piano (2000), la Fantaisie pour violoncelle et piano (2005), Symmetries Disorder Reach (2007), Marching to Carcassonne (2003), Manere pour violon et clarinette (2008). Également écrit en 2008, Since Brass nor Stone pour quatuor à cordes et percussion (2008), est un mémorial à Pavel Haas. Inspiré par un sonnet de Shakespeare, dont elle emprunte son titre, cette œuvre est représentative de l'inventivité de Goehr dans les compositions de musique de chambre de cette époque. Goehr revient ensuite à l'opéra avec Promised End, inspiré par le roi Lear de Shakespeare, mis en scène en 2010 par English Touring Opera.

En 2004, Goehr reçoit un doctorat d'honneur en musique de l'université de Plymouth.