Louis XIV qui ne devait pas attendre de sa verve railleuse un respect absolu pour son royal prestige. « Il avoit cru s’apercevoir, dit Saint-Simon, qu’elle s’étoit moquée de lui. Quelque divertissante qu’elle fût, il n’étoit point à son aise avec elle, et elle, qui avoit senti cet éloignement, étoit aussi embarrassée en sa présence. Il ne la goûta jamais, et fut toujours réservé, souvent sévère avec elle cela surprenoit et affligeoit madame de Maintenon. » L’antipathie du roi pour madame de Caylus suffit pour expliquer les deux exils consécutifs qui la tinrent éloignée de la cour pendant treize ou quatorze ans et dont le crédit de sa tante ne put la garantir. Quant aux motifs allégués pour l’exiler, c’étaient de simples prétextes. Que lui reprochait-on en effet ? d’avoir médit de la dévote madame de Montchevreuil, d’avoir entretenu avec le duc de Villeroi une liaison trop publique. Mais cette liaison n’était-elle pas parfaitement excusable, si l’on songe à ce mari hébété par le vin et l’eau-de-vie dont madame de Maintenon avait gratifié sa nièce. Quant à railler la vieille Montchevreuil, ce n’était pas un crime de lèse-majesté, et le prestige royal ne souffrait nullement de cette innocente malice.
Exilée de Versailles qu’elle ne regrettait pas, madame de Caylus alla vivre a Paris où la société des beaux-esprits du temps lui fit oublier le morne ennui de la cour du grand roi. C’est alors qu’elle connut La Fare qui fit pour elle ces jolis vers,