Son till en framstående minister i Upson County, GA, John Brown Gordon föddes 6 februari 1832. Vid en ung ålder flyttade han med sin familj till Walker County där hans far hade köpt en kolgruva. Utbildad lokalt gick han senare vid University of Georgia. Även om en stark student, lämnade Gordon oförklarligt skolan innan han tog examen. Flyttar till Atlanta, läste han lag och gick in i baren 1854. Medan han var i staden gifte han sig med Rebecca Haralson, dotter till kongressledamoten Hugh A. Haralson. Kunde inte locka kunder i Atlanta, flyttade Gordon norrut för att övervaka sin fars gruvintressen. Han var i denna position när inbördeskriget började i april 1861.
Gordon stödde snabbt ett företag av bergsklättrare som kallas "Raccoon Roughs" som en anhängare av den konfedererade orsaken. I maj 1861 införlivades detta företag i sjätte infektionsregimet i Alabama med Gordon som kapten. Även om han saknade någon formell militär utbildning, befordrades Gordon till major en kort tid senare. Ursprungligen skickades till Corinth, MS, beställdes senare regimentet till Virginia. På fältet för den första striden om Bull Run den juli såg den liten action. Gordon visade sig vara en kapabel officer och fick ordning på regementet i april 1862 och befordrades till oberst. Detta sammanföll med en förskjutning söderut för att motsätta generalmajor George B. McClellans halvönskampanj. Följande månad ledde han väl regimentet under slaget vid Seven Pines utanför Richmond, VA.
I slutet av juni återvände Gordon till strid när general Robert E. Lee började de sju dagars striderna. Han slog mot unionens styrkor och etablerade snabbt ett rykte för rädsla i strid. Den 1 juli sårade en unionskula honom i huvudet under slaget vid Malvern Hill. Återhämtning återgick han med armén i tid för Maryland-kampanjen i september. Som tjänstgörde i brigadgeneral Robert Rodes 'brigade, hjälpte Gordon till att hålla en nyckelfönsterd väg ("Bloody Lane") under slaget vid Antietam den 17 september. Under striderna sårades han fem gånger. Slutligen fördes ned av en kula som passerade genom hans vänstra kind och ut ur käken, kollapsade han med ansiktet i locket. Gordon berättade senare att han skulle ha drunknat i sitt eget blod om det inte hade funnits ett kulahål i hatten.
För hans framträdande befordrades Gordon till brigadiergeneral i november 1862 och efter hans återhämtning fick han befäl för en brigad i generalmajor Jubal Early's division i generallöjtnant Thomas "Stonewall" Jacksons andra kår. I denna roll såg han handling nära Fredericksburg och Salem Church under slaget vid Chancellorsville i maj 1863. Med Jacksons död efter Confederate seger överfördes hans korps till generallöjtnant Richard Ewell. Gordons brigad, som ledde Lee's senare framåt norrut i Pennsylvania, nådde Susquehanna-floden vid Wrightsville den 28 juni. Här förhindrades de att korsa floden av Pennsylvania milis som brände stadens järnvägsbro.
Gordons framåt till Wrightsville markerade den östligaste penetrationen av Pennsylvania under kampanjen. Med sin armé utsträckt beordrade Lee sina män att koncentrera sig i Cashtown, PA. När denna rörelse pågick började striderna i Gettysburg mellan trupper under ledning av generallöjtnant A. Hill och unionens kavalleri under brigadegeneral John Buford. När striden ökade i storlek närmade sig Gordon och resten av Early's Division Gettysburg från norr. Då han satte sig i strid den 1 juli attackerade och dirigerade brigaden brigadegeneral Francis Barlows division på Blochers Knoll. Nästa dag stöttade Gordons brigad en attack mot unionens ställning på East Cemetery Hill men deltog inte i striderna.
Efter det konfedererade nederlaget i Gettysburg, gick Gordons brigad söderut med armén. Den hösten deltog han i de otvetydiga kampanjerna Bristoe och Mine Run. Med början av generallöjtnant Ulysses S. Grants kampanj över land i maj 1864 deltog Gordons brigade i slaget vid vildmarken. Under striderna drev hans män fienden tillbaka vid Saunders Field och inledde en framgångsrik attack på unionens höger. Lee erkände Gordons skicklighet och höjde honom till att leda Early's division som en del av en större omorganisation av armén. Striderna återupptogs några dagar senare vid slaget vid Spotsylvania Court House. Den 12 maj lanserade unionsstyrkorna ett massivt angrepp på Mule Shoe Salient. Med unionsstyrkor som överväldiger de konfedererade försvararna, rusade Gordon sina män framåt i ett försök att återställa situationen och stabilisera linjerna. När striden rasade beordrade han Lee bakom när den ikoniska konfedererade ledaren försökte personligen leda en attack framåt.
För sina ansträngningar befordrades Gordon till generalmajor den 14 maj. När unionens styrkor fortsatte att driva söder ledde Gordon sina män vid slaget vid Cold Harbor i början av juni. Efter att ha tilldelat unionens trupper ett blodigt nederlag, instruerade Lee tidigt, nu ledande av det andra korpset, att ta sina män till Shenandoah-dalen i ett försök att dra av några unionsstyrkor. I marsch med tidigt deltog Gordon i förskottet nerför dalen och segern i slaget vid monokatin i Maryland. Efter att ha hotat Washington, DC och tvingat Grant att lossa styrkor för att motverka hans operationer, drog han sig tidigt tillbaka till dalen där han vann det andra slaget vid Kernstown i slutet av juli. Trött på tidiga fördömningar skickade Grant generalmajor Philip Sheridan till dalen med en stor styrka.
Han attackerade uppåt (söderut) dalen, och kolliderade Sheridan med Early och Gordon vid Winchester den 19 september och besegrade sunda konfederaterna. Efter att ha dragit sig söderut besegrades konfederaterna igen två dagar senare på Fishers Hill. Early och Gordon försökte återhämta situationen, och inledde en överraskningsattack mot unionens styrkor vid Cedar Creek den 19 oktober. Trots den första framgången besegrades de dåligt när unionsstyrkorna mötte. Gordon återkom med Lee vid belägringen av Petersburg och placerades i kommando över resterna av det andra korps i december 20.
När vintern gick fram blev konfederatpositionen i Petersburg desperat när unionens styrka fortsatte att växa. Lee behövde tvinga Grant att kontrahera sina linjer och ville störa ett potentiellt attack i unionen och bad Gordon att planera en attack mot fiendens ställning. Med etapper från Colquitt's Salient, tänkte Gordon att attackera Fort Stedman med målet att köra österut mot unionens försörjningsbase vid City Point. När han gick framåt klockan 15:15 den 25 mars 1865 kunde hans trupper snabbt ta fortet och öppna ett 1 000 fot brott i unionens linjer. Trots denna inledande framgång förseglade unionens förstärkningar snabbt överträdelsen och klockan 07:30 hade Gordons attack inrymts. Motattacker tvingade unionstropper Gordon att falla tillbaka till de konfedererade linjerna. Med det konfedererade nederlaget på Five Forks den 1 april blev Lees position i Petersburg ohållbar.
Kommer under attack från Grant den 2 april, började de konfedererade trupperna dra sig tillbaka västerut med Gordons kår som fungerade som en bakvakta. Den 6 april var Gordons korps del av en konfedererad styrka som besegrades vid slaget vid Sayler's Creek. Tillbakadragande vidare anlände hans män slutligen till Appomattox. På morgonen den 9 april bad Lee i hopp om att nå Lynchburg Gordon att rensa unionsstyrkor från deras framsteg. I attacken drev Gordons män tillbaka de första unions trupperna som de stötte på men stoppades av ankomsten av två fiendekorps. Med sina män överantal och tillbringade begärde han förstärkningar från Lee. Lee saknade ytterligare män och drog slutsatsen att han inte hade något annat val än att överge sig. På eftermiddagen träffade han Grant och överlämnade armén i norra Virginia.
Återvände till Georgien efter kriget, kampanj Gordon utan framgång för guvernör 1868 på en stark anti-återuppbyggnadsplattform. Besegrad, uppnådde han offentligt kontor 1872 när han valdes till den amerikanska senaten. Under de kommande femton åren tjänade Gordon två stints i senaten samt en mandat som guvernör i Georgien. 1890 blev han den första befälhavaren för United Confederate Veterans och publicerade senare sina memoarer, Påminnelser om inbördeskriget 1903. Gordon dog i Miami, FL den 9 januari 1904 och begravdes på Oakland Cemetery i Atlanta.