Jakuba w Vöppstedt, o którym pierwsze wzmianki w dokumentach pochodzą z XII wieku, stanowił centrum starej wsi Vöppstedt, która musiała być znacznie starsza.

Od 1331 r. mieszkańcy przenieśli się do ufortyfikowanego miasta Salzgitter i zbudowali kościół Mariacki. Bezbronny kościół wiejski został zniszczony albo w czasie wojny piwnej w latach 1481-1486, albo w czasie wojny kolegiackiej w Hildesheim w latach 1519-1523. W 1591 r. został odbudowany jako kaplica grobowa, a okoliczna wieś, która opustoszała, została wykorzystana jako cmentarz.

Na przestrzeni wieków w kaplicy chowano również zmarłych. Akta kościelne dostarczają mniej lub bardziej dokładnych informacji o członkach rodzin patronackich i parafialnych pochowanych w kościele, którzy często musieli ciężko walczyć o swoje prawo do uprzywilejowanego miejsca pochówku. Kaplica ponownie popadła w ruinę podczas wojny trzydziestoletniej i została odbudowana dopiero w 1683 roku.

20 maja 1807 r. nastąpiła prawdopodobnie najbardziej radykalna zmiana w użytkowaniu budynku, kiedy to francuski komendant miasta La Chaise nakazał nadinspektorowi Feyerabendowi usunięcie całego wyposażenia z kaplicy w ciągu jednego dnia, aby zrobić miejsce dla więźniów zabranych przez armię francuską. W ten sposób podczas francuskiej okupacji kościół stał się zarówno więzieniem, jak i magazynem paszy.

W następnych latach rozważano nawet rozbiórkę kaplicy, aby ze środków uzyskanych ze sprzedaży materiałów budowlanych wyremontować kościół St Marie-Jakobi w Salzgitter. Do tego jednak nie doszło, co nie powstrzymało dalszego niszczenia kaplicy. W 1863 r. zawalił się dach wieży, a w 1924 r. dach nawy musiał zostać usunięty ze względów bezpieczeństwa.

Około 1900 r. ceglany mur łuku po wschodniej stronie nawy zawalił się, odsłaniając otwór, który można postrzegać jako oddzielenie nawy od przypuszczalnego prezbiterium jako wschodniego końca, co nie jest udokumentowane w literaturze kaplicy.

Przez lata do 1940 roku stan budynku pogorszył się do tego stopnia, że musiał zostać odgrodzony. Dopiero w latach po 1960 r. rada miasta Salzgitter podjęła decyzję o przekształceniu cmentarza i kaplicy w parkowe miejsce pamięci ofiar dwóch wojen światowych i tyranii oraz o zabezpieczeniu ruin kaplicy jako pomnika. Po 1980 r. wzniesiono tablicę upamiętniającą ofiary katastrofy górniczej w Hannoversche Treue.

W 1886 r. założono protestancki cmentarz staromiejski, a liczba pochówków na cmentarzu w Vöppstedt systematycznie spadała, aż do ostatniego pochówku w grobie rodzinnym, który miał miejsce prawdopodobnie w 1920 roku. Dziś tylko kilka pomników i mauzoleum świadczą o ludziach, którzy zamieszkiwali Salzgitter.