La roche formant le relief qui ceinture la ville est unique en Belgique. C'est un dépôt lacustre rouge brique daté du Permien, dont les galets calcaires, dans leur assise centrale, donnent lieu à des phénomènes de dissolution: grotte des Nains, trou Ozer et pinacles à Bévercé.