Gemeinsam mit seinen künftigen Bandkollegen Luther Grosvenor (Gitarre), Greg Ridley (Bass) und Mike Kellie (Drums) sowie dem späteren ELP-Tastenzauberer Keith Emerson war Harrison in den Sechzigern Mitglied in der englischen Combo The V.I.P.s, die sich nach Emersons Ausstieg in Art umbenannte und 1967 das Psychedelic-Rock-Album Supernatural Fairy Tales veröffentlichte. Verstärkt um den amerikanischen Keyboarder Gary Wright riefen die Musiker noch im selben Jahr Spooky Tooth ins Leben.
Nach der zweiten Platte Spooky Two (mit dem 1978 von Judas Priest gecoverten ›Better By You, Better Than Me‹) zerbrach 1969 die Originalbesetzung. 1970 löste sich die Gruppe nach der vierten LP The Last Puff, das unter der erweiterten Firmierung Spooky Tooth featuring Mike Harrison erschien, erstmals auf. Der Frontmann realisierte daraufhin in Mike Harrison und Smokestack Lightning zwei Soloalben, bevor er 1972 zusammen mit Gary Wright Spooky Tooth mit anderem Line-up wiederbelebte.
Nach zwei weiteren Platten stieg er 1974 aus der Gruppe aus, die sich wenig später erneut trennte. Im Anschluss an sein drittes Solowerk Rainbow Rider (1975) zog er sich für fast 25 Jahre aus dem Musikgeschäft zurück und arbeitete unter anderem als Barkeeper und Lkw-Fahrer. 1997 schlossen sich Harrison, Grosvenor, der 2003 verstorbene Ridley und der 2017 verschiedene Kellie vorübergehend wieder zusammen, was in einer weiteren Spooky Tooth-Scheibe (Cross Purpose, 1999) resultierte. 2004 und 2008 kam es ebenfalls zu kurzzeitigen Reunions. 2001 nahm Harrison das Album Touch mit der Hamburg Blues Band auf, 2006 erschien sein finaler Alleingang Late Starter.
