L'abbazia benedettina di San Winoc, fondata nel 1022, occupa tutta la parte superiore del Groenberg, il punto più alto della città (22 m). Benché distrutto durante la Rivoluzione francese, le sue due torri sono ancora oggi un elemento importante di berguois paesaggio (La torre a punta : 1815 e la torre quadrata : XII secolo).
Il terreno dell'abbazia, dopo aver servito come Champs de Mars, dalla Rivoluzione, ha fin dai primi anni del XX secolo il giardino pubblico della città.