Tillsammans med band som Deep Purple och Led Zeppelin var Black Sabbath ett av de tidiga banden som bildade genren hårdrock. Black Sabbath har haft enormt inflytande på en rad olika band i branschen, bland annat storheter som Metallica och svenska Candlemass. Det intressanta med de tidiga banden inom denna genre är att de inte alls lät likadant; Deep Purple hade en stil som skilde sig mycket från Led Zeppelin och Black Sabbath hade i sin tur ett helt annat sound. I det sistnämnda fallet var musiken påtagligt tyngre än hos de andra banden; Sabbath spelade onekligen mestadels i moll med ett mycket ”mörkt” nästan domedagsliknande sound.
Det första uppsättningen av bandet hade namnet ”Earth” men detta kom snart att ändras. Debutplattan som släpptes år 1970 hade kort och gott namnet ”Black Sabbath” och innehåll redan här flera hits som ”Paranoid” och ”Iron Man”. Låtarna blev snabbt populära, trots att kritikerna till en början inte hade så mycket för bandet och deras musik. Det tog några skivsläpp innan kåren av brittiska musikjournalister skulle mjukna och ge sitt bifall. En sak är säker; Ozzy Osbourne, 
Tony Iommi, Bill Ward och John Bonham från industriorten Birmingham var mästare på att få hits som var lika tunga som de var ”catchy”.
Bandet spelade i denna sättning in flertalet skivor tillsammans. Dock fick Ozzy svåra alkoholproblem mot slutet av 70-talet och fick i samband med detta lämna bandet. In kom istället den förre Rainbow-medlemmen Ronnie James Dio, som var en fenomenal och välkänd sångare redan vid den här tiden. Dio blev dock inte särskilt långvarig i Black Sabbath; samarbetet begränsades till två skivor innan det var dags att tacka för sig. 1980-talet såg en rad olika sångare komma och gå i bandet, bland annat Ian Gillan, Tony Martin och Glenn Hughes. Bandet hade också bytt ett antal trummisar och basister under de här åren; endast Tony Iommi återstod som originalmedlem och så har det varit i hela Black Sabbaths karriär.
År 1997 återförenades bandet med Ozzy Osbourne för att tillsammans släppa en live-skiva. Efter att ha släppt en studioskiva 2013 genomförde då dessutom en turné tillsammans, med namnet ”The Farewell Tour”. Turnén avslutades i hemstaden Birmingham den 4:e februari 2017 – man kan säga att cirkeln var sluten.
