Tijdens de periode van het koninkrijk der Nederlanden had Bergen een moderne kazerne (Willemskazerne, gebouwd in 1824-1827). Na de Eerste Wereldoorlog werd deze kazerne van de Jagers te Voet “Majoor Sabbe” genoemd. Ze bleef actief tot in de Tweede Wereldoorlog. Nadien nam het Jean d'Avesnesatheneum er zijn intrek in. Sinds 1995 kan men er terecht voor hoger kunstonderwijs. De lokale televisiezender Télé Mons Borinage heeft er zich ook in geïnstalleerd (in 2000). Ieder jaar vindt in de eerste helft van de maand juli het Festival au Carré plaats, een cultureel evenement gewijd aan de creaties in de podiumkunsten.