A abadia de Hérivaux é uma das sete abadias que esmaltam o território do Parque Natural Regional Oise-Pays de France. A maioria deles foi fundada pelos reis da França, mas a da Hérivaux tem a peculiaridade de ter originado um senhor local. Em 1140, Ascelin, senhor de Marly-la-Ville, deixou seu castelo para se aposentar nesse lugar inóspito chamado Herremivallis, "o vale do eremita". Juntado por outros companheiros, ele limpa o chão, localizado em um vale arborizado em que fluem várias fontes, e funda a abadia de Herivaux. Os monges cuidavam da agricultura e pecuária no campo, mas também cuidavam dos necessitados. Eles estão na origem da aldeia de Orry fundada pelos pioneiros que apoiaram.
Na Revolução, esta propriedade nacionalizada foi adquirida em 1796 pelo escritor e político Benjamin Constant. A igreja e os edifícios religiosos são em grande parte destruídos em sua ordem, exceto por uma ala (o pavilhão sulista), na qual ele aloja sua amante Madame de Staël. O "castelo de Herivaux" foi ampliado em 1934.
Ainda é propriedade privada.