Joe Gibbs syntyi 25. marraskuuta 1940 Mocksvillessä, Pohjois-Carolinassa. Gibbs valmistui Santa Fe Springs High Schoolista Santa Fe Springsissä, Kaliforniassa vuonna 1959, jossa hän oli pelinrakentajan tähti. Hän opiskeli Cerritos Junior Collegessa ja jatkoi sitten San Diego State Universityyn (SDSU), josta hän valmistui maisteriksi vuonna 1966.
Gibbs oli Washington Redskinsin 20. ja 26. päävalmentaja (1981-1992 ja 2004-2007). Ensimmäisellä kaudellaan NFL-valmentajana Joe ohjasi Washington Redskinsia 12 kauden ajan ja johti sen kahdeksaan pudotuspelipaikkaan, neljään NFC:n mestaruuteen ja kolmeen Super Bowlin mestaruuteen. Kauden 1992 päätyttyä Gibbs vetäytyi päävalmentajan tehtävistä ja keskittyi NASCAR-tiimiinsä. Hänen NASCAR-joukkueensa voitti Gibbsin omistuksessa kolme mestaruutta; yhden entisen kuljettajan Bobby Labonten kanssa ja kaksi Tony Stewartin kanssa.
Hän jäi jalkapallovalmentajana eläkkeelle 7. tammikuuta 2004 ja palasi Washington Redskinsin päävalmentajaksi ja joukkueen puheenjohtajaksi. Tuolloin hän allekirjoitti 28,5 miljoonan dollarin arvoisen viisivuotisen sopimuksen. Gibbs on edelleen organisaatiossa joukkueen omistajan Daniel Snyderin erityisneuvonantajana.
Vuonna 1992 Gibbs oli mukana kirjoittamassa ”Joe Gibbs: Fourth and One”. Vuonna 2003 hän oli mukana kirjoittamassa kirjaa ”Racing to Win”. Kirjat ovat bisnes- ja elämäntapa- ja motivaatio-oppaita, joissa Gibbs käsittelee menestyksiään ja epäonnistumisiaan uransa aikana ja tarjoaa oppimiaan oppeja vinkkeinä lukijoille. Vuonna 2009 Gibbs kirjoitti kirjan ”Game Plan for Life”, joka kertoo hänen elämästään jalkapallon parissa, siitä, miten hänen uskonsa Jumalaan voi auttaa muita, sekä keskeisistä aiheista, jotka ovat hänen mielestään tärkeitä nykypäivän miehille ja naisille, jotka yrittävät elää kristillistä elämää nykymaailmassa.