Uczęszczał do gimnazjum we Lwowie. Przed wybuchem I – szej wojny światowej należał do Związku Strzeleckiego i wraz z sformowanym z jego członków batalionem wstąpił do I Brygady Legionów Polskich. Ranny w czasie walk dostał się do niewoli rosyjskiej skąd zbiegł. W 1918 w II Korpusie Polskim gen. J. Hallera a następnie w POW. W 1922 przeniesiony w stopniu kapitana do rezerwy 8 Pułku Piechoty Legionów. 15 V 1930 powołany do służby czynnej i przydzielony do 44 Pułku Piechoty Strzelców Kresowych w Równem na Wołyniu. Od 1932 w dyspozycji d-cy Obszaru Warownego „ Wilno”. W 1922 przeniesiony służbowo do 22 Pułku Piechoty w Siedlcach. Ostatnie dwa lata przed wybuchem wojny szkolił d-ców kompanii w Centrum Wyszkolenia Piechoty w Rembertowie. Tuż przed wybuchem wojny przydzielony do Grupy Operacyjnej Dywersji Grupa „ Zygmunt”, której zadaniem była dywersja na tyłach wroga po opanowaniu przez nieprzyjaciela terytorium RP.

W połowie września 1939 zgodnie z planami SG dotyczącymi dywersji, kpt. Mazurkiewicz zorganizował w Stanisławowie Tajną Organizację Wojskową zajmującą się min. szlakami kurierskimi z okupowanego już kraju do Budapesztu a stamtąd do Paryża, gdzie zainstalował się rząd polski z Naczelnym Wodzem gen. Wł. Sikorskim.

W 1940 został komendantem TOW. W III 1943 w czasie tzw. akcji scaleniowej TOW został włączony do AK, a bezpośrednio do Kierownictwa Dywersji Komendy Głównej AK, a J. Mazurkiewicz został z-cą szefa Kedywu płk. A. E. Fieldorfa. 13 IV 1943 awansował na podpułkownika, a 1 II 1944 objął d-ctwo Kedywu.

W Powstaniu Warszawskim dowodził najlepiej wyposażonym i wyszkolonym zgrupowaniem swojego imienia „ Radosław”, składającego się z oddziałów: Broda 53 ( Brygada Dywersyjna), batalionów „ Zośka”, „ Parasol”, „ Miotła”, „ Pięść”, „ Czata 49”. Przeszedł cały szlak bojowy Zgrupowania od Woli, poprzez Stare Miasto, ewakuację kanałami do Śródmieścia, Górny Czerniaków, Mokotów. 11 VIII ciężko ranny w rejonie ul. Okopowej. W dniu kapitulacji Powstania awansowany do stopnia pułkownika. Nie poszedł do niewoli i kontynuował działalność konspiracyjną, tym razem już przeciwko nowej władzy. Po rozwiązaniu AK w styczniu 1945 został delegatem na Obszar Centralny DSZ na Kraj.

1 VIII 1945 aresztowany przez funkcjonariuszy UB. Zatrzymany na miesiąc w areszcie. Stanął na czele Centralnej Komisji Likwidacyjnej AK. W wyniku jego działań, tj. słynnego apelu o skorzystanie z dobrodziejstw amnestii, ujawniło się 50 tys. żołnierzy podziemia, którzy w ciągu kilku następnych m-cy trafili do więzień bezpieki. Stojąc na czele Komisji starał się znaleźć opiekę medyczną dla b. żołnierzy AK, zabiegał o ich zatrudnienie w dźwigającym się z ruin państwie.

4 II 1949 aresztowany po raz drugi, poddany torturom w czasie których śledczy chcieli wydobyć zeznania obciążające gen. Fieldorfa „ Nila”. 16 XI 1953 został skazany na karę dożywotniego więzienia. W wyniku amnestii w 1956 opuścił więzienie. W rok później rehabilitowany. Był wieloletnim wiceprezesem ZBoWiD.

Krzyż Złoty i Srebrny Orderu Virtutii Militari, Krzyż Walecznych (kilkakrotnie), Krzyż Niepodległości z Mieczami, Krzyż Armii Krajowej, Warszawski Krzyż Powstańczy, Krzyż Komandorski z Gwiazdą Orderu Odrodzenia Polski.