Les Avenues constituent une véritable coulée verte partant du cœur de la ville ancienne. Cet espace boisé relie le château à la forêt de Rouges Fossés. Ce site protégé est classé depuis le 15 février 1943.
Le marquis de Courtanvaux, fils de Louvois, ministre de Louis XIV, propriétaire du château, désireux d’embellir son domaine, acheta dès 1697, des parcelles de terre et des maisons qu’il fit abattre, dont un « tripot », situé autrefois près des jeux de paume.
Il fit démolir aussi les remparts, afin de prolonger l’allée du château par une allée cavalière, créant ainsi la perspective des Avenues. Ce sont quelque 770 tilleuls et ormes qui s’alignaient sur une superficie de onze hectares environ.
La tempête de décembre 1999 a détruit une grande partie des arbres. En 2010, la commune a procédé à son réaménagement, afin de lui rendre son aspect initial.