Pieter Smit had voor zijn politieke carrière een leidinggevende functie bij de politie Haaglanden en was gemeenteraadslid namens D66 in Zoetermeer. Vervolgens was hij van 2006 tot 2010 wethouder in Zoetermeer. Op 1 september 2010 werd hij benoemd tot burgemeester van de Groningse gemeente Oldambt, die op 1 januari van dat jaar ontstond bij de fusie van de gemeenten Scheemda, Winschoten en Reiderland. Sinds de vorming van die gemeente was Martin Zijlstra waarnemend burgemeester. Smit is dus de eerste door de kroon benoemde burgemeester van Oldambt.

Tevens was Smit sinds 1 oktober 2016 voorzitter Raad van Commissarissen van Groningen Airport Eelde, sinds 1 maart 2017 voorzitter Vereniging van Groninger Gemeenten (VGG) en sinds 2 september 2016 bestuurslid van de Bestuurdersvereniging D66.

Pieter Smit overleed onverwacht op 10 april 2018 aan een hartstilstand. Hij is 54 jaar geworden.