Appelée au XIXe siècle la ruelle du Four et au XXe la ruelle de l'Escalier. Son nom actuel doit son origine à un procès en 1728 qui opposa deux habitants qui habitaient au-dessus de la rue. En effet, dans la maison actuelle du doyen habité par Sieur Louis Baillet se trouvait un égout dans l'une des cours qui se déversait d'un peu moins de 2 mètres de haut dans la rue publique. Si bien que qu'il n'était pas rare que certains immondices coulant de cet égout se déversent sur certains habitants ou sur le pain (ou la pâte à pain). Pour sa défense, le Sieur Baillet nie le caractère public de la rue et prétend que les usagers y font leurs nécessités et y jettent leurs ordure entre son jardin et le four sur le fond du rocher nommé Terne Hublot. Hublot signifiant couvercle.