É filho da escocesa Barbara Stephan e de Douglas Rossdale, médico de ascendência russo-judaica. Seus pais divorciaram-se quando tinha onze anos e foi principalmente criado pelo pai e uma tia (a sua mãe voltou a casar e mudou-se para a Flórida). Tem uma irmã mais velha Soraya, e uma irmã mais nova, Lorraine.

Rossdale foi modelo durante um curto período, e começou a tocar baixo com o namorado da sua irmã Soraya, que estava numa banda chamada The Nobodyz. Algum tempo depois, mudou para a guitarra. Com 17 anos, deixou a Escola de Westminster, praticou futebol semi-profissional até ter desistido devido a uma lesão, e formou uma banda chamada Midnight (após se ter chamado Little Dukes). Esta banda produziu alguns singles e algumas fotos publicitárias. Em 1991, Gavin mudou-se para Los Angeles durante 6 meses, viveu onde pôde e trabalhou no que aparecesse, incluindo assistente de produção em filmagens de vídeos. Passou também algum tempos em Nova Iorque antes de regressar a Inglaterra inspirado para iniciar uma nova banda. Em 1992, Gavin formou os Future Primitive, cuja composição original incluía Sacha Gervasi, que os abandonou para seguir a carreira de realizadora. A banda alterou o seu nome para Bush e no verão de 1994, lançou o seu álbum de estreia, Sixteen Stone.