Parken er bygget rundt kilden Nemausus, som ga byen navnet sitt; den inkluderer et ruineret tempel som tilskrives jaktegudinnen Diana, og den åttagons Tour Magne, en gang en del av de romerske murene.
Det store templet til Diana står i nesten perfekt stand til denne dagen, og gir tilflukt til et lite samfunn av romerske hedninger.