Au demeurant, n’ayant rien d’un halluciné, il était parfois narquois, de sens rassis, capable même de fortes espiègleries. Une de ses mystifications est célèbre : il l’a racontée dans un petit article du Bulletin du Bibliophile, en 1902, intitulé, je crois : Napoléon le Grand par Victor Hugo. À cette occasion, il contait comment, ayant à tapisser une porte de sa bibliothèque avec des dos de livres simulés, il y avait inscrit des Comptes mélancholiques de Balzac, un Moi et Eux de George Sand, un Manuel du Démolisseur d’Henri Rochefort, l’Eloge des Jésuites de Michelet, et, entre dix autres, De l’influence des Goncourt sur la Littérature française par Edmond de Goncourt. Après tout, ajoutait-il, « combien de livres dont on se contente de voir le dos. » Il avait de ces côtés de gaminerie malicieuse.
Et ce que la vie l’amusait, — si parfois elle l’indignait ! Avec quelle délicieuse ironie il contait et avec quelle joie il écoutait conter !
À la fin de sa vie, Houssaye était troublé : le sort du pays l’inquiétait. Il était littéralement arrivé, pour la France, à un paroxysme d’amour. Il en adorait le passé guerrier, tout le passé : car il était capable de louer en termes aussi magnifiques un Racine et un Corneille, un Berthelot et un Pasteur, un Hugo et un Lamartine qu’un Condé, un Turenne, un Marceau, un Murât, un Ney, un Bugeaud, un duc d’Au maie, un grenadier Coignet de la Grande Armée, un sergent Sans-Souci des armées royales. Un jour, représentant l’Académie aux fêtes du troisième centenaire de Corneille, il démontrait que la France, dans tous les temps héroïques, avait été « la collaboratrice » du poète. « Cessons donc de l’appeler Romain. Ayons plus de suite. Appelons Corneille un Français, un très grand Français. »
Cette France, il ne se consolait pas de la voir diminuée, entamée, restant, malgré tout, sous le coup de la défaite et de l’amputation. Un jour que je lui avais conté quelle émotion j’avais éprouvée à parler de Lasalle à Metz, il me manifesta le désir d’y aller conférencer lui aussi. Je l’accompagnai. Il parla dans la grande salle de l’Hôtel de Ville de Napoléon et des Poètes. Lorsqu’il déboucha devant ces six cents Français quand même, au milieu desquels se voyaient d’autre part des officiers prussiens bien sanglés dans leur uniforme, je le vis
