Ovo je najveće katoličko groblje u gradu, površine 2 hektara, i na njemu su ukopani mnogi ugledni građani Sarajeva, među kojima i veliki književnik ovoga podneblja Silvije Strahimir Kranjčević te istoričar Antun Hangi.

U arhtektonskom smislu, ovo groblje je zanimljivo po arkadama smještenim uz ulaz koje je projektovao arhitekt Josip Vancaš u duhu Moderne.

Iznad ulaza u groblje podignut je mali toranj sa zvonom. Na istočnom kraju arkada nalazi se grobna kapela monsinjora dr. Stjepana Hadrovića. Arkade i zvono u tornju blagoslovio je 24. decembra 1933. godine nadbiskup vrhbosanski dr. Ivan Šarić.

Od 1965. godine, kada je otvoreno groblje Bare, ovdje nisu obavljane sahrane, sve do agresije na Sarajevo, 1992. godine. Tada je Župni ured “Srca Isusova” upravu nad ovim objektom prenio na KJKP „Pokop“. Na groblju Sveti Josip, u njegova 4.473 grobna mjesta, sahranjeno je 6.720 lica, a grobljanske površine namijenjene su isključivo za sahranjivanje katolika.