Marx besuchte die Oberrealschule und absolvierte im Anschluss im Betrieb seines Vaters eine Lehre zum Schlosser und Maschinenbauer. Er nahm am Ersten Weltkrieg teil und studierte zwei Semester an einer Maschinenbauschule. Danach arbeitete er als Schlosser in Köln-Müngersdorf. Im Jahr 1929 trat er mit der Mitgliedsnummer 123.356 der NSDAP bei.
Nach der Machtübertragung an die Nationalsozialisten war Marx im Jahr 1933 im Preußischen Landtag vertreten und war außerdem Stadtverordneter in Köln. Von November 1933 bis 1936 vertrat er den Wahlkreis 20 (Köln-Aachen) im Deutschen Reichstag. Er wurde 1933 zudem zum SS-Sturmbannführer ernannt und war vom 1. April 1933 bis zum 31. Januar 1934 Führer der 58. SS-Standarte in Köln. Im Sommer 1933 hatte Marx sein Büro im „Braunen Haus“ in der Kölner Mozartstraße, dem Sitz diverser Parteidienststellen. Im selben Gebäude unterhielt seine SS-Standarte eine Haft- und Folterstätte, die Marx regelmäßig inspizierte.
