Situé au cœur du Jura, l'ermitage de Conliège tient son origine d'une chapelle construite au début du XVIIe siècle par un généreux donateur à l'endroit même où auraient vécu des ermites. A l'époque de la Révolution française, ces derniers avaient d'ailleurs un rôle important car ils prévenaient les habitants en cas d'incendies à proximité de la ville.
Par la suite propriété de la commune, l'ermitage de Conliège sera alors occupé par un unique ermite, Joseph Simonin, avant de tomber de nouveau en ruines. Classé aux Monuments Historiques, le site est désormais la propriété d'une association qui en prend soin.