Bei einem Bandwettbewerb trafen sich die heutigen Bandmitglieder, die damals noch in verschiedenen Bands spielten, und beschlossen in Zukunft zusammenzuspielen. Die neue Band nannte sich "Pezz" und die Musikrichtung war zu dieser Zeit noch Progressive Rock. Neben einigen lokalen Auftritten nahmen sie 1999 ein Album namens "Watoosh" auf.

Noch 1999 erfolgte eine Umorientierung in Richtung Punk und eine Änderung des Namens, aufgrund von Unstimmigkeiten mit einer gleichnamigen Band, in Billy Talent, einem Charakter aus dem Film "Hard Core Logo". Mit dem neuen Image und Stil weckten sie Interesse bei Torontos größter Radio-Rock-Show und die Produzentin verschaffte ihnen einen Plattenvertrag bei Warner Records.