Ковалевское кладбище открыто 6 сентября 1984 года указом Ленгорисполкома. Первое захоронение датировано 07.09.1984г. По обращениям Исполнительных органов религиозных обществ на Ковалевском кладбище открыты вероисповедальные участки — Мусульманский и Еврейский. В 1995 году по просьбе настоятеля церкви Петра и Павла с согласия Иоанна, митрополита Санкт-Петербургского и Ладожского на кладбище была воздвигнута часовня. На отведенном участке также построено здание действующей в настоящее время церкви Святых Апостолов Петра и Павла.
На основании Распоряжения губернатора Санкт-Петербурга от 28.10.98 г. № 1058-р «О создании воинских участков и воинского мемориального кладбища в Санкт-Петербурге» подготовлен и введен в эксплуатацию «Воинский участок» для погребения умерших (погибших) военнослужащих.