Parmi les monuments les plus rares du patrimoine wallon figure en première place le pilori. Celui-ci servait à exposer les condamnés en public. Sous l’Ancien Régime, il s’agissait d’une peine infamante, plus grave que le blâme et l’amende honorable. Ces piloris pouvaient prendre diverses formes, du simple poteau de bois à la colonne de pierre. Ériger un pilori était une prérogative qui permettait au seigneur de signifier qu’il avait droit de justice sur ce territoire. Aujourd’hui brisé en plusieurs morceaux, le pilori de la seigneurie de la Haye se dresse sur le territoire d’Escanaffles à la lisière du territoire de Celles. Il a été érigé au début du XVIIe siècle. Il prenait la forme d’une colonne monolithe conique de 2,80 m de hauteur en pierre calcaire dressée sur un socle de pierre. À 1,50 m de hauteur, on y aperçoit un trou qui servait à la fixation d’un collier de fer. Dans la région, ce pilori est également appelé pierre de justice. Il reste encore de nos jours un témoin privilégié de l’histoire locale. Sous l’Ancien Régime, le territoire d’Escanaffles se situe en majeure partie dans la châtellenie d’Ath, dépendance du comté de Hainaut. Le hameau de Pont à l’Haye, appelé seigneurie de la Haye, faisait quant à lui partie de la châtellenie de Lille, baronnie dépendant du comté de Flandre.
Classement comme monument le 12 avril 1983