General Ulysses Grants överväldigande segrar på Forts Henry och Donelson i februari 1862 orsakade tillbakadragandet av de konfedererade styrkorna, inte bara från staten Kentucky utan också från de flesta västra Tennessee. Brigadgeneral Albert Sidney Johnston placerade sina styrkor, numrerade på 45 000 trupper, vid och runt Corinth, Mississippi. Denna plats var ett viktigt transportcenter eftersom det var en korsning för både Mobile & Ohio och Memphis & Charleston järnvägar, ofta kallade "korsningen mellan konfederationen".
I april 1862 hade generalmajor Grants armé i Tennessee vuxit till nästan 49 000 soldater. De behövde en vila, så Grant läger på den västra sidan av Tennessee River vid Pittsburg Landing medan han väntade på återuppförande och utbildade också soldater som inte hade någon stridserfaring. Grant planerade också med brigadgeneral William T. Sherman för deras attack mot den konfedererade armén i Corinth, Mississippi. Vidare väntade Grant på att Army of Ohio skulle komma fram, befalld av generalmajor Don Carlos Buell.
I stället för att sitta och vänta på Korint hade general Johnston flyttat sina konfedererade trupper nära Pittsburg Landing. På morgonen den 6 april 1862 gjorde Johnston en överraskningsattack mot Grants armé och pressade ryggen mot Tennessee River. Cirka 14:15 den dagen sköts Johnston bakom sitt högra knä och dog inom en timme. Innan hans död skickade Johnston sin personliga läkare för att behandla skadade unionssoldater. Det finns spekulationer om att Johnston inte kände skadan på hans högra knä på grund av domningar från ett sår till hans bäcken att han led av en duell som utkämpades under Texas War for Independence 1837.
De konfedererade styrkorna leddes nu av general Pierre G.T. Beauregard. Även om Grants styrkor tros vara sårbara, gjorde Beauregard det som skulle visa sig vara ett oklokt beslut att sluta slåss nära skymningen den första dagen.
Den kvällen anlände generalmajor Buell och hans 18.000 soldater äntligen till Grants läger nära Pittsburgs landning. På morgonen gjorde Grant sin motattack mot de konfedererade styrkorna, vilket resulterade i en stor seger för unionsarmén. Dessutom skapade Grant och Sherman en nära vänskap på Shiloh-slagfältet som återstod med dem under hela inbördeskriget och ledde antagligen till den ultimata segern av unionen i slutet av denna konflikt.
Slaget vid Shiloh är förmodligen en av de viktigaste striderna i inbördeskriget. Förutom att ha förlorat slaget led Confederacyen en förlust som kan ha kostat dem krigsbrigadgeneral Albert Sidney Johnstons död som hände den första dagen av striden. Historien har ansett general Johnston för att ha varit Confederacy's mest kapabla befälhavare vid sin död - Robert E. Lee var inte en fältbefälhavare vid denna tidpunkt - eftersom Johnston hade varit en karriär militär officer med över 30 års aktiv erfarenhet. I slutet av kriget skulle Johnston vara den högst rankade officer som dödades på någon sida.
Slaget vid Shiloh var den dödligaste striden i USA: s historia fram till dess med olyckor som överskred totalt 23 000 för båda sidor. Efter slaget vid Shiloh var det helt klart för Grant att det enda sättet att besegra konfederationen skulle vara att förstöra deras arméer.
Även om Grant fick både beröm och kritik för sina handlingar som ledde fram till och under slaget vid Shiloh, avlägsnade generalmajor Henry Halleck Grant från befälhavaren för Tennessee-armén och överförde kommandot till brigadegeneral George H. Thomas. Halleck baserade sitt beslut delvis på anklagelser om alkoholism från Grants sida och befordrade Grant till positionen som andra befälhavare för de västra arméerna, som i huvudsak avlägsnade Grant från att vara en aktiv fältskommando. Grant ville befalla, och han var redo att avgå och gå bort tills Sherman övertygade honom på annat sätt.
Efter Shiloh, Halleck gjorde en snigel krypa till Corinth, Mississippi tog 30 dagar att flytta sin armé 19 mil och under processen tillät hela konfedererade styrka stationerad där bara för att gå bort. Naturligtvis återvände Grant till sin position som befäl för Tennessee-armén och Halleck blev unionens general-chef. Detta innebär att Halleck flyttade sig från fronten och blev en byråkrat vars huvudansvar var samordningen av alla unionsstyrkor i fältet. Detta var ett viktigt beslut eftersom Halleck kunde utmärka sig i denna position och fungera bra med Grant när de fortsatte att bekämpa konfederationen.