Le traité de Francfort du 10 Mai 1871 oblige la France a céder l'Alsace et la Moselle à l'Allemagne. Par crainte d'une nouvelle attaque allemande, il est décidé de renforcer les frontières des Vosges.
Le Fort de Rupt, construit de 1874 à 1876 fait partie d'une oeuvre gigantesque, conçue par le général de Génie, Séré de Rivières, comprenant plusieurs ouvrages répartis sur la rive gauche de la Moselle jusqu'au camp fortifié d'Epinal au Nord et jusqu'au Ballon de Servance au Sud.
Ce fort qui s'est appelé successivement : Fort de la Roche de la Haie (nom du lieu-dit) puis fort Coulaincourt (en hommage au général Gabriel Coulaincourt), va finalement reprendre le nom de Fort de Rupt (par le décret du 13 octobre 1887) car situé sur les communes de Rupt-sur-Moselle (25%) et de La Rosière (75%) à environ 770 mètres d'altitude.
Les militaires stationnés au fort pouvaient ainsi surveiller la vallée de la Moselle ainsi que l'accès au col du Mont de Fourche, entrée de la Franche-Comté. Ce fort était équipé pour supporter 3 mois de siège.