Le moulin appartenait en 1765 au seigneur de Jouy. Il est loué, puis acheté en 1773 par Oberkampf, qui en utilisait la force motrice pour actionner la calandre qui lissait les toiles. Après la mort d’Oberkampf, le nouveau propriétaire, Barbet de Jouy, fait démolir le moulin et construire en 1828 une minoterie "à l’anglaise" pour moudre à nouveau du blé. En 1907, l'édifice est intégré dans une usine de produits chimiques, l'usine Agostini (puis Decamps) qui fermera ses portes en 1968.
En 1972, la ville de Jouy devient propriétaire du site. Le bâtiment abrite alors un atelier-école de tissage, l’imprimerie du Vieux Moulin, et la Bibliothèque de l'Association des Familles.
En 2008, le Vieux Moulin est racheté par un promoteur immobilier qui y installe des logements sociaux. Dans le même temps, la mairie de Jouy-en-Josas l’agrandit d’une grande baie vitrée. On y trouve aujourd’hui la médiathèque, le CCAS, et le service de petite enfance.