Koncem roku 1941 vznikla specifikace nové zbraně pro výsadkové jednotky, jež by spojovala vlastnosti zbraní, používaných pozemními složkami, tedy pušky K 98k, samopalu MP 38 a 40 a lehkého kulometu MG 34. Kromě rozměrových a hmotnostních požadavků blížících se pušce K 98k měla budoucí zbraň střílet v obou režimech, mít optický zaměřovač s 1,5násobným zvětšením a možnost střelby s oporou pomocí jednoduchého podstavce.
Zbraň vyvinul konstruktér firmy Rheinmetall-Borsig Louis Stange (1888–1971) na jaře 1942, po řadě zkoušek byla v září 1942 zavedena pod oficiálním označením Fallschirmjägergewehr 42. Objednávku na 2000 kusů z května 1943 však firma z kapacitních důvodů předisponovala zbrojovce Heinrich Krieghoff v Suhlu, jež ji dokončila v březnu 1944.
Praktické zkušenosti výsadkových jednotek ovšem záhy vyvolaly nutnost dalších vývojových prací, jejichž výsledkem byl druhý model, v mnoha směrech odlišný od původní konstrukce. S ním také dostala továrna v březnu 1944 zcela iluzorní objednávku na 120 000 kusů. Přestože se kromě zbrojovky Krieghoff do výroby zapojila v menší míře také firma L. O. Dietrich v Altenburgu, do kapitulace nacistického Německa stihly obě továrny vyrobit pouze 6224 pušek druhého provedení.