Narodil se 27. července 1887 v Turovicích u Holešova na Moravě. Po absolvování dvouleté obchodní školy pracoval jako účetní, po svém příchodu do Prahy se však zapojil do politického života české mládeže a pomáhal vydávat několik časopisů. Po vypuknutí války byl odveden k c. a k. pěšímu pluku č. 3 v Brně, s nímž nejprve zasáhl do bojů v Srbsku. Po vstupu Itálie do války byl v létě i se svým plukem přidělen na sočskou frontu, kde se v červenci 1915 na planině Doberdó rozhodl přeběhnout do italského zajetí. Jeho pokus byl však zpozorován, byl při něm vážně raněn a do italských zákopů ho přinesli zbroceného krví. Přestože se ze svých zranění nikdy zcela nevyléčil, po měsících strávených v nemocnici se začal zajímat o zahraniční události i o dění v zajateckých táborech a brzy se zapojil do čs. revolučního hnutí. Počátky hnutí však byly skromné, neboť v Itálii před válkou žilo příliš málo krajanů, a proto zde byly podmínky pro vznik čs. jednotek nejsložitější. Nejdůležitější organizací hnutí byl Československý dobrovolnický sbor, který Josef Logaj pomáhal v lednu 1917 v táboře Santa Maria Capua Vetere zakládat. V něm zastával funkci člena výboru a jednatele pro navázání kontaktů se zahraničím. Zároveň se podílel na vydávání Denního oznamovatele sboru a později redigoval jeho přeměněnou formu, časopis V boj! Stal se tak jednou z nejvýraznějších postav sboru. Zanedlouho zahájil agitaci mezi ostatními zajatci českého a slovenského původu a zároveň se různými akcemi snažil získat na svou stranu italskou veřejnost. Následně byl během podzimu 1917 povolán jako důvěrník sboru k odbočce Čs. národní rady v Římě. Zde získal důstojnickou hodnost a dále se intenzivně podílel na náborových, organizačních a propagačních pracích čs. hnutí v Itálii. I díky němu se sbor, zejména po svém přeložení do zajateckého tábora v Padule, rozrostl ze zhruba stovky původních členů až na několik tisíc mužů. Když na jaře 1918 italská vláda po dlouhém váhání povolila vznik čs. legií na svém území, během velice krátké doby byla zformována celá čs. divize, jejíž jádro tvořili právě příslušníci Čs. dobrovolnického sboru. Zdravotní stav Josefa Logaje se však nadále zhoršoval poté, co v létě 1918 vážně onemocněl španělskou chřipkou. Z jejích následků se v Itálii léčil až do března 1919, kdy se bez větších poct vrátil do vlasti. Zde 27. listopadu 1922 na následky válečných útrap a nemocí zemřel ve věku pouhých 35 let.