Comme dans beaucoup de localités, le cimetière de Villers-sur-Semois entourait l'église. L'exiguïté de l'endroit a nécessité son déménagement au bout de la rue Saint-Martin. Mais il abrite encore quelques vieilles tombes, datant de la moitié du XIXe siècle. Placée au fond du cimetière, dans l’allée centrale, en face de l’entrée principale, une croix métallique de quelque quatre mètres de hauteur est peinte en noir avec en couleur argent l’inscription INRI. Sur la croix, le Christ et une tête de mort et tibias croisés à ses pieds. Au milieu du mur de droite, un monument en pierre de taille, entouré de cyprès porte les noms et les matricules de 6 soldats français morts en août 1914. Il fait l’objet, en septembre de chaque année, d’une visite des troupes de la marine françaises, première étape d’une tournée du souvenir à travers les villages du Sud de la Belgique qui furent au cœur de la tourmente d’août 1914.