O filme conta a história de um jovem rapaz (Jack Black) oprimido pelos pais, que foge da sua cidade em busca do sucesso como roqueiro. Na sua jornada, se encontra com Kyle Gass, um músico fracassado que lhe promete ensinar como ser um rockstar. Os dois formam a banda, e descobrem um segredo que acompanha os maiores mitos do rock: a Palheta do Destino, uma palheta com poderes musicais satânicos, feita do dente do proprio satanas. A dupla então parte em busca da palheta para se tornar a maior banda de rock que já existiu.