Deuxième fils de sir Charles Tupper, il fait ses études à l'U. McGill et à Harvard. Exerçant d'abord le droit à Halifax, il est ensuite élu député fédéral conservateur de la circonscription de Pictou, siège qu'il conservera jusqu'à sa retraite de la vie politique, en 1904.
Nommé ministre de la Marine et des Pêches en 1888, il est à l'époque le plus jeune membre à faire partie d'un cabinet fédéral. Malgré les prétentions de ses opposants voulant qu'il doive son ascension rapide à son père, Tupper se révèle un ministre très appliqué qui en vient à posséder une connaissance approfondie du domaine des pêches au Canada. À titre d'agent de la Grande-Bretagne, il contribue au verdict favorable au Canada dans la conflit de la mer de Béring avec les États-Unis, en 1893. Qualifié de « suffisant » par sir John A. Macdonald, Tupper fait preuve d'un nationalisme fougueux, quoique chicaneur, dans la défense des intérêts du Canada en matière de pêche.
En 1894, il est nommé ministre de la Justice dans le Cabinet de sir Mackenzie Bowell, et à ce poste, il tente en vain de faire adopter un projet de loi correctif visant à rétablir les écoles catholiques au Manitoba (voir Question des écoles du Manitoba).
En janvier 1896, il démissionne pour protester contre le leadership inefficace du Cabinet. De mai à juillet 1896, il est solliciteur général dans le bref gouvernement dirigé par son père. Après son retrait de la vie politique, en 1904, il pratique le droit à Vancouver.