Cmentarz został założony prawdopodobnie w 1915r., kiedy chowano poległych podczas oblężenia twierdzy żołnierzy rosyjskich i niemieckich. Z tego okresu pochodzi zbiorowa mogiła 7 żołnierzy poległych podczas oblężenia fortu XVI.

Najstarszymi grobami polskimi są groby legionistów przebywających w twierdzy w latach 1916-17.

Największą kwaterą jest ta z czasów wojny polsko-bolszewickiej 1920r. - liczy 325 mogił.

W okresie międzywojennym chowano tu żołnierzy zmarłych z powodu chorób i wypadków, a także cywili. Z tego okresu pochodzi mauzoleum Edwarda Malewicza, pierwszego polskiego komendanta twierdzy, ale on sam został pochowany wśród żołnierzy.

Z tego okresu pochodzą też liczne groby dzieci.

Z okresu września 1939r. pochodzi tylko 118 bezimiennych mogił obrońców twierdzy. Mimo że wówczas zginęło blisko 1300 żołnierzy, zostali oni wówczas pochowani w fosie, a następnie przeniesieni na Powązki.

W czasie II wojny światowej spoczeło tu 2581 żołnierzy walczących w wojskach kitlerowskich, z których większośc zginęła tłumiąc Powstanie Warszawskie. Na ich kwaterze porasta trawa, ale na środku stoi krzyż otoczony tablicami z wyrytymi nazwiskami.

Cmentarz został doszczętnie zniszczony w 1945r. i ostatecznie zamkniety w roku 1962. Po wojnie jednak chowano tu pilotów z Modlina i saperów z Korunic.

Odrestaurowany w latach 1995-97, kiedy stanął na nim pomnik aurorstwa Jana Bohdana Chmielewskiego przedstawiający krzyż w otoczeniu 6 orłów.

24 listopada 2012r. wznowiono pochówki w ramach cmentarza parafialnego.