Het stadje Bavay, gelegen in het Regionaal Natuurpark van de Avesnois, is gekend om haar Romeinse ruïnes. Tijdens een bezoek aan de archeologische site van het antieke Bagacum ontdekt men de ruïnes van een markt, een burgerlijke basiliek en een cryptoporticus. Het departementaal Archeologiemuseum ernaast bevat voorwerpen die gevonden zijn tijdens opgravingen op deze site zoals bronzen beelden, keramiek, borden...