Habitué à monter sur les planches dès son plus jeune âge, Hervé Pierre décide, en 1974, d’intégrer l’école du Théâtre national de Strasbourg. Puis, il fonde, avec l’ensemble de sa promotion, le Théâtre du Troc. En 1980, Jean-Pierre Vincent le met en scène dans Peines d'amours perdues de Shakespeare au Festival d’Avignon. Sous la direction de Jean-Louis Hourdin, Hervé Pierre joue dans La Mort de Danton de Georg Büchner, Le Songe d'une nuit d'été et La Tempête de Shakespeare, Le Monde d'Albert Cohen et Hurle France. Dominique Pitoiset lui confie le rôle-titre dans Oblomov d’Ivan Gontcharov, dans Timon d'Athènes et Othello de Shakespeare ainsi que le rôle de Méphisto dans L’Urfaust de Goethe. En 1992, il participe à la création des Solitaires intempestifs d’après un montage de textes de Jean-Luc Lagarce, mis en scène par l’auteur. En 1996, Pierre Meunier lui confie le rôle de Kutsch dans L’Homme de plein vent. En 2001, François Berreur le dirige dans Le Rêve de la veille composé de trois textes de Lagarce, Music-Hall, Le Bain et Le Voyage à la Haye puis, en 2007, dans Juste la fin du monde du même auteur.

Pensionnaire de la Comédie-Française depuis le 1er février 2007, il devient le 522e sociétaire de la Troupe le 1er janvier 2011.
Hervé Pierre a joué entre autres dans Le Voyage à La Haye de Jean-Luc Lagarce par François Berreur, Le Malade imaginaire de Molière par Claude Stratz, Partage de Midi de Paul Claudel par Yves Beaunesne et Un Fil à la patte de Georges Feydeau par Jérôme Deschamps. En 2009, le Syndicat professionnel de la critique de théâtre, de musique et de danse lui décerne le prix du meilleur comédien pour La Grande Magie d’Eduardo de Filippo par Dan Jemmett.

Alain Françon le dirige dans La Trilogie de la villégiature et La Locandiera de Goldoni, La Mer d’Edward Bond, Éric Ruf lui offre le rôle-titre dans Peer Gynt d’Ibsen puis dans La Vie de Galilée de Brecht et celui d’Acomat dans Bajazet de Racine. Hervé Pierre interprète Alexandre Vladimirovitch dans Vania d’après Oncle Vania d’Anton Tchekhov par Julie Deliquet qu’il retrouve pour Fanny et Alexandre d’après Ingmar Bergman, L’Auteur dans La Ronde d’Arthur Schnitzler par Anne Kessler, L’Interviewer dans Une Vie de et par Pascal Rambert. Il joue dans Britannicus de Racine par Stéphane Braunschweig, La Tempête de Shakespeare par Robert Carsen et dans Poussière de et par Lars Norèn.

Il participe à la création de la Web TV La Comédie continue ! mise en place lors du premier confinement de mars 2020 et à la programmation en ligne qui a suivi.

A partir de 2021, il joue dans Les Démons de Dostoïevski mis en scène par Guy Cassiers, Fanny et Alexandre d’Ingmar Bergman puis J_ean-Baptiste, Armande, Madeleine et les autres_ mis en scène par Julie Deliquet.

L’année 2022 marque son départ de la troupe et la dernière reprise La Vie de Galilée de Brecht.

En tant que metteur en scène, Hervé Pierre monte en 1986 Coup de foudre d’après Melville, puis Ordinaire et Disgracié de Claude Mollet en 1992 et, en 2000, Le Gardeur de troupeaux, puis Caïro de Fernando Pessoa. En 2014, il accompagne Jane Birkin et Michel Piccoli pour le spectacle Gainsbourg, poète majeur. En 2016, il met en scène les comédiens de la Troupe dans George Dandin suivi de La Jalousie du Barbouillé de Molière.

Au cinéma, Hervé Pierre a tourné avec Pascal Thomas, Jean-Paul Rappeneau, Lionel Kopp, Xavier Gianolli, Guillaume Gallienne, Benoît Jacquot, Sébastien Thiéry et Vincent Lobelle, Paul Verhoeven et Roman Polanski. On a pu le voir dans plusieurs téléfilms ou séries notamment Lupin.

Il est chevalier de l’ordre des Arts et de Lettres et celui de Chevalier de la légion d’honneur.