Joe Kubert urodził się w 1926 roku w miejscowości Jezierzany w ówczesnej Polsce (dzisiejsza Ukraina) w żydowskiej rodzinie. Kiedy miał 2 miesiące, jego rodzice postanowili przenieść się do Stanów Zjednoczonych. Zamieszkali w Brooklynie w Nowym Jorku.
"W Polsce wcale nie było im bardzo źle. Rodzice mojego ojca mieli sklep, rodzice matki mieli bydło, a dziadek był lekarzem, więc jakoś im się żyło. Pochodzili jednak z małego miasteczka i ojciec uważał, że przyjazd do Ameryki stworzy jego dzieciom większe możliwości. Mieszkały tu już siostry mojej matki, co ułatwiło decyzję o emigracji. Kiedy już przenieśliśmy się do Stanów, przy stole rodzice często opowiadali o swoim rodzinnym kraju i były to piękne historie... do czasu, gdy wybuchła II wojna światowa" - mówił Kubert w wywiadzie udzielonym Jackowi Drewnowskiemu.
Przy tworzeniu komiksów zaczął pracować mając zaledwie 12 lat - w wydawnictwie MLJ Studios (przyszłym Archie Comics) zatrudniono go do poprawiania tuszem ołówkowych szkiców dorosłych artystów. "Dostawałem 5 dolarów za stronę, w 1938 roku to był bardzo porządny zarobek" - napisze w przedmowie do powieści graficznej "Josel". Historycy komiksu jednak podważają tę wersję przypominając iż MLJ Studios zaczęło swoją działalność w 1939 roku.
Profesjonalnie komiksem zajął się w 1942 roku podejmując współpracę z nieistniejącymi już wydawnictwami Holyoke Publishing Company, Fox Comics i Quality Comics. Dla tej ostatniej firmy zajmował się kolorowaniem niedzielnych odcinków słynnej serii "The Spirit" Willa Eisnera.
Jesienią 1943 roku Joe Kubert rozpoczął współpracę z All-American Comics - wydawnictwem, którego biblioteka w przyszłości stanie się własnością DC Comics. To tutaj zaczął pracować nad przygodami Hawkmana, swojego ulubionego superbohatera. Hawkman był reinkarnacją staroegipskiego księcia, a jego najbardziej charakterystyczną mocą była umiejętność latania. Z czasem Hawkman został także członkiem grupy Justice Society of America.
W latach pięćdziesiątych artysta współtworzył wydawnictwo St. John Publications. Pracując dla niego powołał do życia Tora, jednego ze swoich najbardziej znanych bohaterów. Tor był typową postacią bogatej popkultury lat 50. Był walecznym jaskiniowcem żyjącym w prehistorycznych czasach i walczącym z dinozaurami i innymi wielkimi bestiami. "Chciałem pokazać, że ludzkie emocje są podobne bez względu na czas i miejsce" - powie o tej postaci w wywiadzie udzielonym serwisowi DC Multiverse.
Do współpracy z DC Comics powrócił w 1955 roku. Na zlecenie wydawnictwa stworzył wraz ze scenarzystą Robertem Kanigherem postać sierżanta Franka Rocka - bohatera II wojny światowej, który wraz ze swoim oddziałem (Easy Company) brał udział w niemal wszystkich najważniejszych bitwach wojny. Sukces serii nadał pędu karierze Kuberta i sprawił, że w latach 1967-76 zajmował stanowisko jednego z dyrektorów DC Comics.
Być może największym życiowym osiągnięciem Kuberta (i jego żony Muriel) było stworzenie szkoły artystycznej Joe Kubert School of Cartoon and Graphic Art w Dover w stanie New Jersey. Założona w 1976 roku placówka naucza rysunku i prawideł sztuki sekwencyjnej (jak Amerykanie nazywają naukowo komiks). Wśród jej absolwentów znajdują się tacy artyści jak Steve Lieber (seria "Whiteout"), Eric Shanower (seria "Epoka brązu"), David Nakayama ("Witchblade") czy synowie założyciela Andy i Adam Kubertowie (oboje są uznanymi artystami komiksowymi, a w swojej karierze pracowali dla DC Comics i Marvela).
W 2003 roku Joe Kubert narysował powieść graficzną "Josel". Bohaterem tej "alternatywnej autobiografii" jest sam Kubert, który jednak nie opuszcza w 1926 roku Polski, ale zostaje i wraz z rodziną pada ofiarą niemieckiego nazizmu.
"Moje imię po hebrajsku brzmi właśnie Josel" - mówił w przywoływanym już wywiadzie Jacka Drewnowskiego. "Matka i ojciec komiksowego Josela to moi rodzice - oni naprawdę tak wyglądali. Jego siostra to moja siostra. Kiedy zastanawiam się nad tym z perspektywy czasu, dochodzę do wniosku, że dokonałem oddzielenia, zerwałem swoją osobistą więź z opisywaną historią. Starałem się myśleć o tym wyłącznie jak o pracy. Skoncentrowałem się na odpowiednim przedstawieniu tej opowieści w formie graficznej. Kiedy zabrałem się do rysowania, skupiłem się przede wszystkim na kompozycji kadrów i przebiegu akcji, zapominając o aspektach osobistych". W Polsce komiks ukazał się nakładem wydawnictwa Egmont Polska.
Ostatnim projektem Kuberta był tworzony wraz z synami kontrowersyjny prequel serii "Strażnicy" zatytułowany "Before Watchmen: Nite Owl".
W 1997 roku artysta został przyjęty do Harvey Awards' Jack Kirby Hall of Fame, zaś rok później do Eisner Comic Book Hall of Fame.