Na een korte loopbaan als lerares begon ze haar muzikale carrière als achtergrondzangeres van Michael Jackson tijdens zijn Bad-Tour in 1988. Gezien haar muzikale talenten kwam ze al snel met andere artiesten in contact en nam een eerste pop-album op. Na twijfels bij de platenmaatschappij en Sheryl zelf, werd dit album uiteindelijk nooit uitgebracht. Een illusie armer bleef Sheryl wel actief als componist en zangeres, en sloot zich aan bij een 'jam'-band die op dinsdagavonden samen speelde in Los Angeles. Deze jam-sessies resulteerden uiteindelijk in haar eerste album Tuesday Night Music Club met de wereldhit All I Wanna Do. Ze kreeg in 1994 een Grammy voor Record Of The Year en Best New Artist. Ook haar tweede en derde albums (Sheryl Crow en The Globe Sessions) leverden haar lovende kritieken en enkele awards op. In 1999 verschijnt een live-album (Live from Central Park) waarop ze speelt en zingt met grootheden als Eric Clapton, Keith Richards en Stevie Nicks.

In 1997 was Crow medeauteur en zangeres van het lied Tomorrow Never Dies, de titelsong van de gelijknamige James Bondfilm (1997).

Na drie succesvolle albums kampt Sheryl in 2000 en 2001 met een writers' block. Na veel bloed, zweet en tranen (en hulp van collega's als Lenny Kravitz en Stevie Nicks) verschijnt in 2002 het 'poppy' album C'mon C'mon. Na het verschijnen van een succesvol Greatest Hits-album in 2003, keert Sheryl in 2005 terug naar haar roots als singer/songwriter met het grotendeels akoestische album Wildflower. Op dit laatste album staat ook Always on your Side, dat in de V.S. de hitparade haalde als duet met Sting.

Nog steeds heeft Sheryl Crow veel aanzien bij andere artiesten. Lenny Kravitz zei ooit over haar: "Je hoeft maar een instrument in haar handen te duwen en ze weet het te bespelen." Sheryl was ook co-producer van een album van de Amerikaanse band Dixie Chicks.

Sheryl's meest recente album, Detours, verschijnt in februari 2008. Het is het meest politieke album dat ze uitbracht. Zo refereert ze in haar songs o.a. aan de orkaan Katrina en de oorlog in Irak. Maar ze snijdt ook persoonlijker onderwerpen aan, zo gaat Make It Go Away over de behandeling van haar borstkanker, en Lullabye for Wyatt over haar geadopteerde zoon. De eerste singles Shine Over Babylon (alleen digitaal verkrijgbaar) en Love Is Free worden bescheiden hits in de Verenigde Staten.