Dnia 19 maja 1957 roku proboszcz nowej parafii ks. Józef Rotta odprawił pierwsze nabożeństwo w salce parafialnej należącej do parafii św. Mikołaja, a spełniającej rolę tymczasowej kaplicy dla parafii św. Józefa. Taką też datę noszą pierwsze ogłoszenia parafialne.
W rezultacie energicznych działań ks. proboszcza, już w dniu 9 czerwca 1957 roku można był po podać do wiadomości parafian informację o zatwierdzeniu lokalizacji nowego kościoła przy ulicy Czerwonych Kosynierów (dziś ul. Morska) na przecięciu się tej trasy z ulicą Zakręt do Oksywia, W miejscu gdzie miał stanąć kościół parafialny znajdowały się w tym czasie ogródki warzywne i pole kartofli. W dniu 14 października 1957 roku przystąpiono, przy wydatnej pomocy parafian, do rozbiórki baraku, który zakupiono z zamiarem zaadaptowania na tymczasową kaplicę. W listopadzie ogrodzono teren przyszłej budowy. W marcu następnego roku zakupiono dzwon o wadze 104 kg, a w miesiąc później do gromadzonych na placu budowy materiałów budowlanych przybyło 15 tysięcy sztuk cegły.
Już w 1957 roku zaczął działać Komitet Budowy Kościoła, w którego skład weszli: Leon Janaszak, Antoni Hajmowski, Leon Lica i Franciszek Kropidłowski. Pomoc parafian przy budowie przybierała różne formy. Jedną z nich było gromadzenie funduszy. Zdarzało się, że parafianie sponsorowali niektóre zakupy.
W dniu 21 maja 1958 roku Wojewódzka Komisja Urbanistyczno - Architektoniczna w Gdańsku zatwierdziła projekt wstępny kościoła i plebani wykonany przez inż. arch. Leopolda Taraszkiewicza. Parafianie mogli przy wejściu do kaplicy obejrzeć fotografie projektu. Czerwiec 1958 roku to początek prac przy kopaniu fundamentów pod barak mający pełnić funkcję tymczasowej kaplicy. W 1959 roku geodeci wytyczyli miejsce pod kościół i plebanię, a w tydzień później rozpoczęto kopanie fundamentów. Tempo robót było tak szybkie, że 12 kwietnia można było rozpocząć pierwsze prace betoniarsko - murarskie. W dniu 31 maja 1959 roku ks. biskup Bernard Czapliński odprawił na placu budowy mszę św., a także poświęcił i wmurował kamień węgielny nowego kościoła. Była to zarazem pierwsza wizyta ks. biskupa w parafii św. Józefa. Prace budowlane postępowały. Od 11 czerwca 1960 roku nabożeństwa i msze św. odbywały się w oddanej do użytku części dolnego kościoła, a z początkiem lipca księża mogli zamieszkać w częściowo ukończonej plebani, w której znalazło się także miejsce na biuro parafialne. W sprawozdaniu duszpasterskim za rok 1960 ks. Rotta pisał: Ukończono plebanię w stanie surowym i oddano do użytku piętro plebani z kompletną instalacją elektryczną, wodno-kanalizacyjną i centralnego ogrzewania. Została też oddana do użytku jedna trzecia część dolnego kościoła. Do tej części przeniesione zostały nabożeństwa po opuszczeniu dotychczasowej kaplicy-baraku. Założono fundamenty pod resztę dolnego kościoła. Oddanie do użytku całego dolnego kościoła zaplanowano na koniec roku 1961. Prace posuwały się jednak wolniej niż przewidywano, zostały ukończone dopiero w 1965 roku i uroczystość poświęcenia dolnego kościoła odbyła się 2 maja 1965 roku w dniu odpustu parafialnego. Aktu poświęcenia dokonał ks. biskup Bernard Czapliński. Wnętrze kościoła dolnego prezentowało się wtedy bardzo skromnie. Surowe, nieotynkowane ściany, prowizoryczny drewniany ołtarz. Nad tabernakulum na ścianie ołtarzowej umieszczona została figura św. Józefa patrona parafii. W dolnym kościele były dwa boczne ołtarze. Z lewej strony ołtarz Matki Bożej Nieustającej Pomocy, a z prawej - ołtarz Najświętszego Serca Pana Jezusa. Kościół posiadał oświetlenie elektryczne oraz instalację akustyczną. Do końca roku 1965 ukończono betonową posadzkę w salkach katechetycznych, wykonano fundamenty bocznej lewej nawy kościoła górnego oraz rozpoczęto prace przy wykopie pod fundament wieży. Betonowanie fundamentu wieży i ściany oporowej oraz porządkowanie dojścia do kościoła od strony wschodniej zajęło cały sezon budowlany roku 1966. Prace związane z budową bocznej lewej nawy trwały przez następne dwa lata. Budowa posuwała się wolniej niż planowano ze względu na trudności związane ze zdobywaniem materiałów budowlanych, a także ze skromnymi zasobami finansowymi. W roku 1968 oddano do użytku całą plebanię. Na parterze znajduje się biuro parafialne, mieszkania księży wikariuszy i organisty. Na piętrze umieszczono kuchnię, jadalnię oraz mieszkanie księdza proboszcza. W roku 1969 budowa kościoła weszła w fazę końcową. Wysiłkiem całej społeczności parafialnej ustawiono wysokościowe rusztowania niezbędne przy wznoszeniu nawy głównej. Ukończono prace przy prawej nawie bocznej oraz wybetonowano wieżyczkę nad kaplicą przy prezbiterium. W końcu roku 1970 położono pierwszy fragment stropu, a następnie, w roku 1971, kolejne przęsła głównej nawy. Konstrukcję kościoła ukończono w listopadzie 1972 roku. W roku 1973 pożar zniszczył baraki i dużą część przechowywanych w nich materiałów budowlanych. Z tego powodu w tym sezonie zdołano jedynie zabezpieczyć dach kościoła ocynkowaną blachą. Montaż okien i ścian głównej nawy przełożono na rok następny. Prace te zostały ukończone zgodnie z założeniami we wrześniu 1974 roku. W dniu 19 marca 1975 roku w uroczystość św. Józefa patrona parafii ks. biskup Bernard Czapliński poświęcił górny kościół. Kościół oddano w stanie surowym, otynkowano i pomalowano jedynie dolną część prezbiterium.
W maju tego samego roku, równolegle do prac wewnątrz kościoła, rozpoczęto budowę wieży na przygotowanych w poprzednich latach fundamentach, a do końca roku wykonano i zamontowano metalowe drzwi do czterech wejść. Prace przy wznoszeniu wieży przebiegały sprawnie, tak że w końcu roku 1976 osiągnęła ona wysokość 19 metrów. Gotowa wieża miała mieć wysokość 47 metrów. Nie udało się jednak, ze względu na koszta, wykonać elewacji kościoła. Prace te przesunięto na rok następny. W maju 1977 roku parafianie rozpoczęli zbiórkę metali szlachetnych i stopów metali takich jak cyna, miedź, brąz, srebro, aby zmniejszyć koszta materiału na nowe dzwony. Rosła też wieża kościelna, która w końcu 1977 roku osiągnęła połowę planowanej wysokości.
W dniu 12 czerwca 1978 roku zmarł dotychczasowy budowniczy kościoła, pierwszy proboszcz parafii św. Józefa, ks. Józef Rotta. Dzieło dokończenia budowy przejął nowy proboszcz ks. Tadeusz Rosiński, który do końca roku 1979 doprowadził prace przy budowie wieży kościelnej do szczęśliwego zakończenia. Wieża osiągnęła wysokość 47 metrów, została otynkowana i pokryta dachem z miedzianej blachy. Jesienią tego roku złożono zamówienie na odlanie trzech nowych dzwonów. Dzwony zostały wykonane u ludwisarza w Przemyślu i przywiezione do Gdyni na wiosnę 1980 roku. Największy dzwon otrzymał imię św. Józefa i był darem ojców, średni sławi imię Matki Bożej Nieustającej Pomocy jako dar matek. Najmniejszy dzwon jest darem młodzieży i nosi imię Jana Pawła II. Dzwony o wadze odpowiednio 1000, 600 i 300 kg zostały zawieszone na wieży w ostatnim tygodniu maja 1980 roku.
Prace przy otynkowaniu ścian wewnątrz kościoła trwały dziewięć miesięcy i zakończyły się w końcu lipca 1983 roku. W tym samym roku rozstrzygnięty został konkurs na wystrój plastyczny wnętrza kościoła. Diecezjalna Komisja Sztuki w Pelplinie, której przewodniczył ks. infułat Antoni Liedke, wybrała projekt prof. Franciszka Duszeńki i skierowała go do realizacji. Głównym elementem dekoracyjnym ściany ołtarzowej według tego projektu była odlana z brązu figura przedstawiająca Chrystusa Pana Uwielbionego. Prace nad gipsowym modelem pięciometrowej figury w skali 1:1 rozpoczęły się w sierpniu 1986 roku, a w rok później figura została odlana w brązie. Skomplikowaną technicznie operację zawieszenia jej na ścianie ołtarzowej przeprowadzono w nocy z 23/24 lipca 1987 roku. Figura została zawieszona na jednym stalowym wsporniku w odległości 80 cm od ściany.
W roku 1987 urządzono i wyposażono według projektu Lecha Tempczyka, przyległą do prezbiterium i odgrodzoną od niego szklaną ścianą, kaplicę św. Anny. Prace kamieniarskie przy wykładaniu marmurem ściany ołtarzowej o powierzchni 180 m2 trwały rok i zakończyły się w kwietniu 1989 roku. W roku 1990 rozpoczęto prace przy budowie stałego ołtarza. W miejsce dotychczasowego drewnianego stanął masywny stół ołtarzowy wykonany z ciemnego marmuru Słopiec. Nowy ołtarz został poświęcony w dniu 28 lipca 1990 roku. Pierwsze nabożeństwo odprawił przy nim główny sponsor ks. senior Stefan Janiak.
Jesienią 1994 roku rozpoczęto przygotowania do konsekracji kościoła, której w dniu 19 marca 1995 roku dokonał ks. arcybiskup Tadeusz Gocłowski. Prace przygotowawcze objęły malowanie ścian kościoła, wykonanie krzyża procesyjnego z brązu oraz ozdobienie tabernakulum. Podczas uroczystości konsekracji ks. arcybiskup namaścił ołtarz i mury świątyni w sześciu miejscach zaznaczonych zacheuszkami. W miejscach namaszczenia ołtarza zostało spalone kadzidło, a w bryle ołtarza zamurowano relikwie św. Piusa X oraz akt konsekracji kościoła.
Z lewej strony wejścia głównego wmurowana jest tablica pamiątkowa z brązu poświęcona pamięci ks. Józefa Rotty, pierwszego proboszcza parafii św. Józefa. Od zachodnio-południowej strony znajduje się, przylegająca oszkloną ścianą do prezbiterium, kaplica św. Anny przeznaczona dla matek z małymi dziećmi. Powierzchnia wnętrza kościoła liczy około 1600 m2, co pozwala na swobodne pomieszczenie ponad 4000 wiernych. Nawa główna ma długość 31 m, szerokość 16 m i wysokość 21 m, nawy boczne mają wysokość 4,60 m. Sufity naw bocznych i nawy głównej wyłożone są drewnem świerkowym. Podłogę prezbiterium wyłożono jasnym marmurem. Na tym tle efektownie wygląda masywny ołtarz wykonany z ciemnego brązowego marmuru. Ambona została wykonana z tego samego marmuru. Krzyż procesyjny wykonany jest z dębowego drewna, wystylizowana figura Ukrzyżowanego zaprojektowana przez artystę rzeźbiarza Tomasza Misztala odlana jest z brązu. Krzyż wstawiony jest w ramę z jasnego marmuru. Wzdłuż ściany ołtarzowej po obu stronach umieszczonego centralnie tabernakulum ustawione są dębowe sedilia. Drzwiczki tabernakulum ozdobione są muszlą wykonaną z brązu. Wewnątrz muszli umieszczona jest perła z białego marmuru. Zamysłem artysty było, aby całość ozdoby tabernakulum przywodziła na myśl nieocenioną wartość Królestwa Bożego, które św. Mateusz przyrównał do drogocennej perły (Mt. 7.6). Na ścianie po obu stronach tabernakulum umocowano marmurowe ozdobne płytki wznoszące się lekko ku górze mające symbolizować fale morskie. W pierwszej z nich od strony prawej zainstalowano wieczną lampkę w formie równoramiennego krzyża Ściana ołtarzowa wyłożona jest jasnym marmurem Sławniowice. Na tym tle niezwykle prezentuje się rzeźba Chrystusa Pana Uwielbionego prof. Franciszka Duszeńki. Figura z brązu o wadze 1800 kg ma 5.12 m wysokości i 4.95 m szerokości. Mimo monumentalnej wielkości robi wrażenie jakby unosiła się w powietrzu. Efekt ten uzyskano dzięki sposobowi zawieszenia figury na jednym tylko wsporniku umieszczonym w połowie jej wysokości i zupełnie niewidocznemu z wnętrza kościoła. Za oszkloną lewą ścianą prezbiterium znajduje się kaplica św. Anny. Kaplica ta przeznaczona jest do odprawiania mszy św. w dni powszednie w okresie zimowym, a w niedziele i święta dla matek z małymi dziećmi. Na ścianie ołtarzowej znajduje się wkomponowana w drewniane tło płaskorzeźba św. Anny Samotrzeciej autorstwa gdańskiego artysty rzeźbiarza Tomasza Misztala. Płaskorzeźba przedstawia św. Annę odbierającą z rąk Maryi Dzieciątko Jezus. Kaplica św. Anny posiada jedyne w swoim rodzaju ławki i klęczniki. W zależności od potrzeb wierni mogą siedzieć twarzą do ołtarza głównego lub, jeśli msza święta sprawowana jest w kaplicy, w kierunku ołtarza w kaplicy.
Na ścianie nad ołtarzem, przy którym odprawia się nowennę do Matki Bożej zawieszono obraz Matki Bożej Nieustającej Pomocy pędzla ks. Franciszka Znanieckiego z Pelplina. Na ołtarzu w prawej bocznej nawie ustawiono wykonaną z brązu figurę św. Józefa z Dzieciątkiem.
W Roku Jubileuszowym ustawiono w lewej części prezbiterium nową chrzcielnicę. Na jej podstawie, wykonanej z zielonego marmuru, wyrzeźbiony jest symbol Roku Jubileuszowego 2000.