Det inledde sin verksamhet 1901 som en torrdocka och fortsatte som en marinanläggning fram till 1996 då verksamheten upphörde till följd av rekommendationer från 1993 års Base Realignment and Closure Commission. Den hyrdes då ut till Detyens Shipyards, Inc.
Ursprungligen betecknad som Navy Yard och senare som Naval Base hade den stor betydelse för lokalsamhället, tri-county-området och hela delstaten South Carolina.
Varvet tillverkade först först destruktorn USS Tillman (DD-135) och började sedan öka produktionen på 1930-talet. Sammanlagt 21 förstörare monterades vid marinvarvet.
I år 1931 levererade Ellicott Dredges den 20-tums kuttermudder Orion som fortfarande var i drift vid det gamla Charleston Naval Shipyard.
Två av de största fartygen som någonsin byggdes vid varvet var två förstörarsender, USS Tidewater (AD-31) och USS Bryce Canyon (AD-36). Klen till dessa fartyg lades i november 1944 respektive juli 1945. Den högsta sysselsättningen på 25 948 personer uppnåddes i juli 1943.
Efter kriget ansvarade varvet för reparationer och ombyggnader av tillfångatagna tyska ubåtar. I april 1948 berättade marinminister John L. Sullivan för Charlestons representant Rivers och senator Burnet R. Maybank att flottan planerade att CNSY skulle bli ett översynsvarv för ubåtar och att man skulle be om ett första anslag för en batteriladdningsenhet.
Den första ubåten, USS Conger (SS-477), anlände för översyn i augusti 1948. Varvet räknade med att renovera cirka 132 fartyg under året och arbetsstyrkan hade stabiliserats till nästan 5 000 personer.
Nordkoreas invasion av Sydkorea i juni 1950 ökade återigen produktionen. År 1951 hade varvet återigen över 8 000 anställda. Totalt aktiverade varvet fyrtiofyra fartyg och konverterade tjugosju för aktiv flotttjänstgöring under Koreakriget.
Undervattensbåtar fortsatte att byggas in på 1960-talet tillsammans med missiler, och översyner av kärnvapenubåtar ägde rum, bland annat USS Scorpion (SSN-589) 1962. År 1966 slutförde varvet den första tankningen av en atomubåt, USS Skipjack (SSN-585), och påbörjade sin första översyn av en ubåt för ballistiska missiler (FBM), USS Thomas A. Edison (SSBN-610). Arbetet med att fördjupa torrdocka nr 2 påbörjades så att den kan hantera de massiva FBM-ubåtarna och -trossarna som är utrustade med ekolod.”
Anläggningen förblev en viktig installation under hela kalla kriget som hemmahamn för många kryssare, förstörare, attackubåtar, FBM-ubåtar, förstörartender och ubåtstender från den amerikanska Atlantflottan tills den stängdes på 1990-talet till följd av det kalla krigets slut och efterföljande åtgärder från BRAC-kommissionen.