Si l’influence artistique familiale explique en partie l’intérêt précoce de Pierre-Joseph pour la peinture et le dessin, le rayonnement de l’abbaye de Saint-Hubert a également joué un rôle important. C’est sur invitation du Père Abbé Dom Célestin de Jong que Charles-Joseph, père de Pierre-Joseph, quitte Jamagne (près de Philippeville) pour venir s’installer à Saint-Hubert en 1743.
Pierre-Joseph trouva dans l’abbaye un cadre culturel idéal pour parfaire sa sensibilité artistique et découvrir la beauté de la nature. Il y rencontra le moine Dom Robert Hickmann, médecin, pharmacien et jardinier qui lui enseigna le sens de l’observation de la nature et le goût de la botanique et de l’herborisation.