Proche d’un embranchement de voie romaine, le nom de Cheveuges — autrefois Cavouges — désignerait un « village encaissé » en latin. Ce village tout en longueur épouse la courbe de la vallée, à distance respectueuse de la Bar. Il s’étire comme deux bras que l’église vient réunir.
L’église fortifiée de Cheveuges, classée monument historique depuis 1959, est dédiée à saint Remi. Son chœur du XVIIIe siècle, en marbre et pierre de taille, illustre la Passion du Christ. Les vitraux du XXe siècle représentent les six jours de la Création dans chacune des six fenêtres de la nef. Ceux du portail, très colorés, symbolisent les quatre éléments (eau, air, terre, feu), tandis qu’un bouquet de fleurs stylisé orne la partie supérieure.