Narodil se 2. listopadu 1904 v Táboře. Po absolvování obchodní školy se ve 20. letech usadil v Paříži, kde pracoval jako bankovní úředník a cvičitel tamní sokolské jednoty. Bezprostředně po vypuknutí druhé světové války narukoval do čs. zahraniční armády. Po pádu Francie odplul do Velké Británie, kde se dobrovolně přihlásil k plnění zvláštních úkolů. V noci z 3. na 4. července 1944 seskočil jako velitel dvoučlenné výsadkové skupiny DESTROYER v okupované Francii.
Spolu s Bohumilem Menšíkem organizovali odboj v řadách české menšiny v Paříži, který vyvrcholil účastí českých bojových jednotek v pařížském povstání v srpnu 1944. DESTROYER v tomto směru patřil k nejúspěšnějším čs. zpravodajským operacím. Koncem roku se Tichý vrátil do Londýna. Měl být znovu poslán do akce, avšak kvůli rychlému konci druhé světové války k tomu již nedošlo.
Po návratu do vlasti Karel Tichý zůstal v armádě jako důstojník z povolání. Krátce po únoru 1948 byl však nejprve přeřazen na podřadné místo v zapadlé posádce a nakonec nemilosrdně vyhozen z armády. Začal pracovat jako dělník, ale již v lednu 1950 byl poprvé zatčen a do června následujícího roku protiprávně vězněn v táboře nucené práce na Mírově. Po propuštění se uchytil jako brusič v kladenských hutích.
Tam jej počátkem září roku 1958 zatkla Státní bezpečnost. Scházel se totiž s několika přáteli, které spojovala sokolská minulost a kritický pohled na socialistickou přítomnost. Netušili, že mezi sebou mají konfidenta… Dne 16. ledna 1959 byl Tichý za činnost v „ilegálním náčelnictvu Podbělohorské župy Sokola“ odsouzen na tři roky vězení, odkud jej vysvobodila až květnová amnestie v roce 1960.
V říjnu 1964 komunistický režim Karlu Tichému nakonec umožnil, aby se s rodinou vystěhoval do Francie. Tam zemřel 3. září 1988 ve městě Montélimar.