Więzienie Stanowe New Jersey jest kompleksem, który składa się z trzech oddzielnych, ale połączonych zakładów fizycznych z trzech różnych epok budowy więzienia, które miały miejsce na terenie nieruchomości. Te trzy części to Dom Penitencjarny z 1798 roku, Zakład Karny Forteca z 1832 roku i współczesny obiekt więzienny z 1982 roku.
Dom Penitencjarny NJ z 1798 roku, który był pierwszym więzieniem stanowym w New Jersey i trzecim w kraju po Walnut Street Jail w Filadelfii i Newgate w Nowym Jorku, jest również najstarszym budynkiem wciąż działającym jako część aktywnego, działającego więzienia w Stanach Zjednoczonych. Dzięki temu NJSP może twierdzić, że jest najstarszym nieprzerwanie działającym więzieniem stanowym w USA. Jedyną ocalałą częścią Domu Penitencjarnego z 1798 r. jest oryginalny Dom Frontowy, który pierwotnie służył jako pomieszczenia mieszkalne dla strażnika więzienia stanowego, czterech pomocników strażnika (pierwszych czterech mężczyzn, którzy pełnili funkcję dzisiejszych funkcjonariuszy więziennictwa stanowego), zbrojowni, biura administracyjnego na pierwszym piętrze oraz szeregu cel dla więźniów zakłócających porządek w piwnicy. Ponieważ Dom Penitencjarny przestał mieścić więźniów w ciągu kilku lat po otwarciu Zakładu Karnego w Twierdzy w 1832 r., Auburn Correctional Facility może pretendować do miana najstarszego nieprzerwanie działającego domu więziennego w USA.
Po zakończeniu i przeniesieniu więźniów Penitentiary House do nowego kompleksu Fortress Penitentiary zaprojektowanego przez Johna Havilanda w 1836 r., obiekt z 1798 r. na przemian służył jako więzienie hrabstwa Mercer podczas budowy ich Workhouse w Titusville, NJ, a następnie jako Arsenał Państwowy do 1929 r., kiedy to cały sprzęt i usługi Gwardii Narodowej, które były tam oparte, zostały przeniesione do nowo ukończonej bazy ANG w Sea Girt, w którym to czasie kontrola nad pustym kompleksem została zwrócona do więzienia państwowego. W 1930 roku wszystkie budynki Penitentiary House zostały zburzone, z wyjątkiem Front House, który został przebudowany na rezydencję dla strażnika więzienia stanowego, do czego jest przeznaczony do dziś. Wykarczowany teren, na którym wcześniej stały cele Domu Penitencjarnego i budynki gospodarcze, został otoczony żelbetonowym murem o wysokości 22 stóp i otwarty w 1930 r. jako Duży Dziedziniec. Ten nowy, duży plac rekreacyjny złagodził ciasne warunki panujące wewnątrz murów głównego kompleksu, który do tego czasu miał ograniczoną przestrzeń do poświęcenia na rekreację na zewnątrz.
Druga najstarsza część więzienia stanowego New Jersey, Zakład Karny Forteca, został zbudowany w latach 1832-1836, kiedy to więźniowie z sąsiedniego Domu Karnego zostali przeniesieni. Zakład z 1832 r. został zbudowany na przyległej działce należącej już do stanu i kontrolowanej przez Dom Więzienny, pod nadzorem Naczelnika Więzienia Stanowego, a w ciągu czterech lat budowy korzystał z pracy więźniów. W związku z tym, kompleks Penitencjarny Forteca z 1836 r. jest uważany za dodatek do istniejącego na terenie nieruchomości więzienia stanowego. Stwierdzenie to jest zasadne, ponieważ oba kompleksy współistniały na tej samej nieruchomości i były zarządzane i kontrolowane przez Zarządcę jako kompleks więzienny, w którym pracowali i przebywali ci sami więźniowie. Ponieważ obecnie Więzienie Państwowe jest prowadzone jako jednolity kompleks składający się z oddzielnych, odrębnych kompleksów, wniosek ten jest możliwy do obrony.
W swojej pracy magisterskiej z 1917 r., opublikowanej jako „History of the Penal, Reformatory and Correctional Institutions of New Jersey”, zmarły dr Harry Elmer Barnes, znany amerykański historyk, opublikował historię i analizę więzień stanowych, zakładów poprawczych i instytucji karnych w New Jersey do tego czasu. Jego praca była analizą zastosowania różnych filozofii karnych i ich sukcesów, porażek i zmian od 1798 do 1917 roku. W pracy tej rozdzielił Penitentiary House i Fortress Penitentiary z 1832 roku na dwa „Systemy”. Termin „System” używany przez dr Barnesa był w tym czasie używany tak, jak my używamy „Paradym” dzisiaj – jego „Pierwszy System Więzienny w NJ” w odniesieniu do Domu Penitencjarnego i „Drugi System Więzienny w NJ” w odniesieniu do obiektu z 1832 r. nie opisywał dwóch oddzielnych więzień ani nie wskazywał na dwie oddzielne agencje więzienne.
To była historia i opis przejścia New Jersey z Congregate System of confinement, gdzie wszystkie osoby bez względu na wiek, płeć lub stan psychiczny były po prostu zamknięte w Penitentiary House, do Pennsylvania System of confinement, który polegał na utrzymaniu więźniów zamkniętych w pojedynczych celach, całkowicie odizolowanych od innych więźniów i opiekunów. Władza i zarządzanie Więzieniem Stanowym jako agencją nie uległy zmianie – Strażnik jako szef agencji nadzorował Dom Penitencjarny, nadzorował i wnosił wkład pracy więźniów w budowę Twierdzy Penitencjarnej w latach 1832-1836, nadzorował przeniesienie wszystkich więźniów ze starego do nowego kompleksu w 1836 r. i kontynuował działalność w nowym kompleksie. Ta budowa, przeniesienie i kontynuacja działań z jednej strony nieruchomości na drugą zapewnia powiązanie między starymi i nowymi kompleksami i pokazuje, że Więzienie Stanowe New Jersey istniało i nieprzerwanie działało w tej samej lokalizacji od 1798 roku. Tak więc, dr Barnes opisał zmianę w teorii i praktyce penitencjarnej, a nie likwidację starych budynków i agencji zarządzającej oraz zastąpienie ich nową. Nie nastąpiła żadna przerwa w działaniu lub zarządzaniu.
Zakład z 1832 r. był kilkakrotnie rozbudowywany w ciągu XIX w. z nową konstrukcją dodającą skrzydła w latach między 1859 a 1907 r., a także większe budynki Shop Hall. W latach 1895-96, kiedy zbudowano 6 skrzydło, oryginalne mury zostały przedłużone do rogów starego kompleksu Penitentiary House, aby zamknąć to skrzydło, jak również nowszy budynek Shop Hall, który do tej pory znajdował się poza głównymi murami.
Kary śmierci zostały przeniesione z więzień okręgowych do więzienia stanowego NJ w 1907 roku, kiedy to przeprowadzono pierwszą egzekucję przy użyciu nowego krzesła elektrycznego, zbudowanego przez Carla Adamsa z Trenton, w sklepach jego Adams Electric Company. Ostatnia taka egzekucja miała miejsce w 1963 roku. W 1979 roku Dom Śmierci (8 skrzydło), wraz ze starym skrzydłem szpitala zostały zburzone, aby zrobić miejsce dla nowego gimnazjum.
Podłoże zostało przerwane dla współczesnego obiektu w 1979 roku, i zostało ukończone w 1982 roku. Od tego czasu nie dokonano żadnych uzupełnień.