Au Moyen-Age, la ville était entièrement entourée de remparts. Ces fortifications ont été érigées par Jean d’Apremont, puis par Jacques de Lorraine, évêques de Metz, vers 1256. Le rempart, d’un périmètre de 1670 mètres, était flanqué de vingt huit tours.
Aujourd’hui, il reste des éléments des remparts en haut du Parc de la Liberté. Devant ceux-ci se trouvent des stèles-maisons, monuments funéraires romains, provenant du cimetière du Freiwald (commune de Troisfontaines). L’une d’elle porte une inscription.
Le promeneur peut flâner dans la rue du Postillon et regarder les maisons qui ont gardé leur caractère médiéval.