Entré à la Comédie-Française en 1875 ; sociétaire en 1888 ; retraité en 1913 ; sociétaire honoraire en 1922.

Son père, camarade de Got et de Delaunay, avait fait du théâtre avant de se consacrer au commerce. Élève de Monrose au Conservatoire, aidé par Regnier et protégé par Got, Jules Truffier quitte le Conservatoire en 1873 avec un premier accessit de Comédie et entre à l'Odéon. En 1875, il débute à la Comédie-Française dans le rôle de Thomas Diafoirus (Le Malade imaginaire). Victor Hugo le surnomme « le Gavroche de Molière », tant il met de gouaille et de fantaisie dans ses interprétations : les valets du Répertoire (La Flèche, Sylvestre, Lubin, Frontin, Arlequin, les Crispin de Regnard et Hauteroche), les compositions comiques, tel le Maître à danser du Bourgeois gentilhomme, mais aussi les créations modernes (le sous-préfet du Monde où l'on s'ennuie de Pailleron, Barberine de Musset, Monsieur Scapin de Richepin, Antoinette Rigaud, Francillon, Cabotins ! etc., soit plus de 150 rôles en 39 ans d'une carrière bien remplie.

Sociétaire en 1888, il donne en 1914 une triomphale représentation de retraite, au cours de laquelle il interprète son personnage favori : le rôle-titre de Maître Favilla, comédie qu'il a adaptée d'après George Sand, car, autodidacte, bibliophile, moliériste, il est aussi l'auteur de nombreuses pièces, de plusieurs à-propos et de quelques volumes de vers. Sa culture et sa finesse lui valent d'ailleurs d'être nommé en 1914 directeur des Études classiques de la Comédie-Française, c'est-à-dire responsable de l'ensemble des mises en scène classiques. Il quitte ce poste en 1919 et sera nommé sociétaire honoraire en 1922.

Dès 1906, il est nommé professeur au Conservatoire. Parmi ses élèves, Berthe Bovy, Pierre Blanchar, Pierre Dux, etc. De 1903 à 1905, il a été chargé d'une mission à Athènes, pour préparer et mettre en route une école dramatique souhaitée par le roi de Grèce. Il reste professeur au Conservatoire jusqu'en 1929 et termine sa carrière en faisant des conférences très écoutées.