Godsmack został założony w 1995 roku przez Sully'ego Erne (byłego perkusistę Strip Mind) oraz Robbiego Merrilla, do dopełnienia składu zaangażowali jeszcze perkusistę Tommy’ego Stewarta oraz gitarzystę Lee Richardsa.. Niedługo później Stewart i Richards odeszli z zespołu, a ich miejsce zajęli Joe Darko (perkusja) oraz Tony Rambola (gitara). W 1996 za sumę 2500 dolarów zespół nagrał swoją pierwszą płytę- "All Wound Up" w niezależnej wytwórni EK Records. Płyta została wysłana min. do bostońskiego radia WAAF, utwory zawarte na płycie zostały ciepło przyjęte przez słuchaczy. Od tamtego czasu zespół zaczął regularnie grywać w bostońskich klubach i stopniowo zdobywał coraz większe uznanie. W 1997 Joe Darko odszedł z zespołu a jego miejsce zajął poprzedni perkusista Tommy Stewart. W 1998 członkowie zespołu podpisali kontrakt z wytwórnią Republic Records od tego momentu ich kariera zaczęła się na dobre.
W tym samym roku wydali album zatytułowany poprostu „Godsmack”, który zawierał utwory z płyty „All Wound Up”. Album stał się wielkim hitem i okrył się potrójną platyną. Singlami promującymi album były “Whatever”, “Keep Away”, “Bad Religion” oraz “Voodoo”. W 2000 roku zespół wydał kolejny album zatytułowany “Awake”, wielkim sukcesem okazał się utwór tytułowy. Sam album również został bardzo ciepło przyjęty, promowaly go klipy nakręcone do "Awake" oraz "Greed". W 2002 zespół nagrał utwór „I Stand Alone”, który trafił na ścieżkę dźwiękową do filmu „The Scorpion King”. Wiosną 2003 światło dzienne ujrzał nowy album zatytułowany „Faceless”. Album został nagrany w The Hit Factory/Criteria Studios w Miami, został wyprodukowany przez Dave’a Bottrill’a oraz Sully’ego. Krążek promowały single „Straight Out Of Line” oraz „Serenity”. Rok później zespół wydał EP-kę „The Other Side”. Zawierała ona cztery starsze utwory w wersji akustycznej oraz trzy nowe akustyczne utwory.Wiosną 2006 ukazał się najnowszy album kapeli zatytułowany "IV". Pierwszym singlem do ktorego nakręcono teledysk został utwor "Speak".