Cmentarz znajduje się przy ul. Mariańskiej. Oficjalnie, jako cmentarz parafialny, pojawił sie w dokumentach w listopadzie 1802 r. Powstał z polecenia pruskiego policyjnego magistratu w Sokółce. Początkowo grzebano tu zmarłych wszystkich wyznań chrześcijańskich.

W 1848 r. pułkownik Danił Jeigir i naczelnik żandarmerii Wissarion Simonow ufundowali na cmentarzu małą cerkiew. Cerkiewka była drewniana, z kamiennym fundamentem i dachem gontowym.

W 1862 r. cmentarz przekazano na wyłączność parafii prawosławnej. W 1882 r. z inicjatywy protorejera Sakowicza nekropolię ogrodzono kamiennym murem. Kwatera ewangelicka z kilkunastoma grobami (w tym grób pierwszego wójta wolnego miasta Sokółka – Józefa Ksawerego Michaelisa) znalazła się poza obrębem cmentarza.

13 sierpnia 1901r. konsekrowano tu kaplicę cmentarną pod wezwaniem św. Pawły. Została wzniesiona dzięki staraniom Michała i Zofii Koncewiczów, z przeznaczeniem na grobowiec ich zmarłej matki, Pawły (wdowy po księdzu).