Smith var verksam som importör och senare som tillverkare av läderprodukter. Han tackade 1884 nej till att kandidera i borgmästarvalet i Newark. Han efterträdde 1893 Rufus Blodgett som senator för New Jersey. Han kandiderade inte till omval efter en mandatperiod i senaten och efterträddes som senator av republikanenJohn Kean.
Smiths grav finns på Holy Sepulchre Cemetery i East Orange.