S nacisty však chtěl bojovat, proto 15. února 1940 odešel tajně přes Slovensko, Maďarsko, Balkán a Střední vý- chod do Francie, kde se v červnu 1940 ještě stihl zúčastnit jako velitel kulometné roty 2. čs. pěšího pluku ústupových bojů na rychle se hroutící francouzské frontě. Po dramatickém přesunu k moři na lodi Rod el Farag odplul s dalšími čs. vojáky do Velké Británie, kde v červenci 1941 absolvoval parašutistický výcvik a brzy nato tvrdý speciální bojový výcvik ve Skotsku s dalšími parakurzy.
Příležitost k boji s nacisty však Josef Knop do té doby stále neměl, a tak se přihlásil na východní frontu. V hodnosti štábního kapitána se po cestě přes Port Said, Jeruzalém a Teherán dostal v listopadu 1943 do Moskvy a odtud do Jefremova, kde se od února 1944 formovala 2. čs. samostatná paradesantní brigáda. Na základě zkušeností z Velké Británie zde Josef Knop cvičil výsadkový oddíl zvláštního určení. Na frontu však v září 1944 odešel jako velitel praporu 1. čs. samostatné brigády a zažil s ní krvavou kalvárii na Dukle. Právě průzkumníci z jeho praporu 6. října 1944 vstoupili jako první na československé území. Do osvobozené Prahy v květnu 1945 přijel již jako major, jehož čekala velká kariéra. Byl povýšen, oženil se, vystudoval Vysokou školu válečnou, opět byl povýšen…
Přišel však únor 1948 a nový režim nestál o charakterní, přímé chlapy jeho ražení. Knop byl nejdříve vyhozen z armády, 23. července 1949 zatčen, krutě mučen a nakonec ve vykonstruovaném procesu odsouzen na doživotí. Později mu soud trest snížil na „pouhých“ 25 let. Na svobodu se dostal v květnu 1962 na základě amnestie. Tehdy jej poprvé spatřila jeho dcera. Bývalý plukovník směl po návratu z vězení vykonávat jen podřadnou práci, ale záhy se na jeho zdraví projevily roky v komunistických lágrech. Josef Knop zemřel v Ústí nad Orlicí 1. dubna 1966 ve věku pouhých 57 let! Plně rehabilitován byl až po listopadu 1989, kdy jej prezident republiky také povýšil do hodnosti generálmajora in memoriam.