Seus pais eram de classe pobre e tiveram nove filhos. Para poder pagar o colégio, a maioria dos irmãos trabalhou como caddies em um clube de golfe. No colégio, Murray se iniciou na interpretação teatral. Posteriormente, ele se inscreveu na Universidade de Denver, mas pouco tempo depois foi expulso por porte de maconha.

Murray decidiu, então, tentar a sorte no rádio. Ele apresentou um programa que não teve sucesso, sendo retirado do ar poucos meses depois, mas participou da continuação de outro que foi emitido por mais tempo. Em 1977, depois de trabalhar em uma companhia de teatro de Chicago, Murray foi contratado por um programa ao vivo de televisão muito popular, o Saturday Night Live, e teve seu início cinematográfico em 1979 no filme canadense "Almôndegas", de Ivan Reitman, no qual Murray faz o papel de um monitor em um acampamento de verão pra jovens. Ele estrelou vários outros filme, até que em 1984 teve seu grande sucesso de bilheteria com "Os Caça-fantasmas", filme também dirigido por Ivan Reitman, com o qual Murray tinha uma ótima sintonia e com o qual trabalhou em inúmeras ocasiões.

A partir de então, Murray tornou-se um ator consagrado, principalmente no gênero cômico. Não obstante, teve o desejo de interpretar também personagens mais sérios, e o fez em algumas ocasiões, como no filme "Uma Mulher para Dois", de 1993, com Robert De Niro e Uma Thurman. No mesmo ano estrelou "Feitiço do Tempo", com Andie MacDowell, outro de seus grandes sucessos. Pelo seu papel como protagonista em "Encontros e Desencontros", de Sofia Coppola, ganhou o Globo de Ouro em 2004 como Melhor Ator (filme de comédia ou musical).

Murray se casou duas vezes, a primeira em 1981. Este matrimônio durou três anos. Em 1997, Murray se casou pela segunda vez. Ele tem dois filhos de sua primeira esposa e três da segunda.

Cônjuge: Jennifer Butler (de 1997 a 2008), Margaret Kelly (de 1981 a 1996)
Irmãos: Brian Doyle-Murray, Joel Murray, John Murray
Filhos: Luke Murray, Homer Murray, Cooper Murray, Cal Murray, Jackson Murray, Lincoln Murray