Počátky německého protitankového kanónu ráže 3,7 cm od firmy Rheinmetall sahají do poloviny dvacátých let – v původní verzi byl tažen koňmi. Před polovinou třicátých let byl uzpůsoben k tomu, aby jej mohla táhnout motorová vozidla – tento typ nesl název 3,7 cm PaK 36. Kanón připravený k palbě vážil pouhých 327 kg; mohl vystřelit projektil o váze 685 g úsťovou rychlostí 745 m/s. Jednalo se o kvalitní zbraň, jejíž výhodou byla i snadná manipulace; nevýhoda v podobě malé ráže nebyla v době jeho vzniku ještě zjevná. 3,7 cm PaK 36 se poprvé uplatnil roku 1936 ve španělské občanské válce a osvědčil se, stejně tak i v čínských službách proti Japoncům.
Na počátku druhé světové války se jednalo o standardní protitankovou zbraň německých armád. Již roku 1940 se však ukázalo, že na zničení nejsilnějších spojeneckých tanků tento kanón nedostačuje. Na východní frontě pak byl PaK 37 mm vz. 36 proti sovětským nejmodernějším tankům naprosto neúčinný. Tento kanón tak byl na frontě nahrazen protitankovými kanóny ráže 5 cm a 7,5 cm, přesto se stovky kusů dočkaly v činné službě konce války.