Józef Haller urodził się 13 sierpnia 1873 r. w Jurczycach koło Krakowa. Był trzecim z kolei dzieckiem Henryka i Olgi z Treterów. Do dziewiątego roku życia wychowywał się Józef wraz z licznym rodzeństwem na wsi. Wielki wpływ na osobowość młodego Hallera wywarła atmosfera głębokiej religijności domu rodzinnego z dominującym kultem maryjnym. Uwidoczniło się to bardzo wyraźnie w całej jego późniejszej działalności. Należał obok innych członków rodziny do sodalicji mariańskiej oraz do tercjarstwa. Oprócz religijności istotny wpływ na kształtowanie osobowości młodego Hallera wywarły patriotyczne tradycje rodzinne (ojciec brał udział w Powstaniu styczniowym, dziadek ze strony matki był kapitanem Wojska Polskiego w 1831 r. i kawalerem krzyża Virtuti Militari ).
W 1882 r. Hallerowie przenoszą się z Jurczyc do Lwowa. Tam Józef Haller skierowany został do szkół z niemieckim językiem nauczania. Znajomość tego języka była niezbędna, chciał się bowiem młody Haller poświęcić karierze wojskowej, a w armii austro-węgierskiej obowiązywał język niemiecki. Edukacja wojskowa Hallera obejmowała naukę w niższej szkole realnej w Koszycach na Węgrzech, w elitarnej wyższej szkole realnej w Hranicach do której uczęszczali także arcyksiążęta austriaccy, a także studia w Akademii Technicznej we Wiedniu na oddziale artylerii. Po ukończeniu Akademii został mianowany na stopień podporucznika i rozpoczął 15 - letni okres służby w wojsku austriackim.
Ważnym wydarzeniem w życiu osobistym Hallera było zawarcie związku małżeńskiego z panną Aleksandrą Sala w 1903r. Jedynym dzieckiem tego związku był syn Eryk urodzony w 1906 r we Lwowie.
W 1910 r. Haller podejmuje decyzję o wystąpieniu ze służby w armii austro-węgierskiej. Decyzję swą motywował następująco: "osiągnąwszy stopień kapitana, nie mogąc się niczego więcej w artylerii austriackiej nauczyć, opuszczam ją by w inny sposób służyć krajowi, aż do chwili, w której Ojczyzna mnie będzie potrzebowała". Wystąpienie z wojska nie osłabiło aktywności Hallera, zmieniło tylko pole jego działania. Podjął pracę w ruchu spółdzielczym, gdzie osiągnął znaczne sukcesy. W 1912 r. objął stanowisko inspektora w Towarzystwie Kółek Rolniczych - organizował kursy rolnicze, hodowlane i mleczarskie, pełniąc także obowiązki wykładowcy.
Haller znany jest jako organizator ruchu skautowego na ziemiach polskich. Skauting polski został założony we Lwowie w 1911 r. Zadaniem jego było wychowanie młodzieży w duchu patriotycznym, gotowej do poświęceń dla odbudowania Rzeczypospolitej. Główna ówczesna działalność Hallera kon-centrowała się jednak wokół militaryzacji "Sokoła" - organizacji mającej na celu podniesienie sprawności fizycznej przez popularyzowanie ćwiczeń gimnastycznych oraz przygotowanie młodzieży do walki zbrojnej o niepodległość Polski. Haller od połowy 1912 r. prowadzi intensywną pracę, pełniąc funkcję instruktora wojskowego. Zakładał drużyny sokole, organizował kursy żołnierskie, podoficerskie i oficerskie. Swoją pracą przygotowywał kadry, które odegrały istotną rolę w polskim czynie zbrojnym w okresie I wojny światowej. W czasie I wojny światowej Józef Haller walczył w legionach stworzonych przez Piłsudskiego. W 1916 r. został dowódcą II Brygady Legionów Polskich, z którą w lutym 1918 r. przebił się pod Rarańczą przez front austriacko - rosyjski i połączył z II Korpusem Polskim na Ukrainie. W VII. 1918 r. przybył Haller do Paryża. Działający we Francji Komitet Narodowy Polski powierzył mu wówczas dowództwo Armii Polskiej we Francji (tzw. Błękitnej Armii). W kwietniu 1919 r. gen. Haller przybył na jej czele do kraju, aby wziąć udział w walce o suwerenność i niepodległość Polski. Dowodził kolejno frontami: galicyjskim, południowo-zachodnim i pomorskim.. Podczas wojny polsko-sowieckiej 1920 r.. został członkiem Rady Obrony Państwa oraz Generalnym Inspektorem Armii Ochotniczej i dowódcą Frontu Północno-Wschodniego. Szczególnie należy podkreślić jego zasługi w tworzeniu Armii Ochotniczej. Po wojnie został mianowany Generalnym Inspektorem Artylerii. Pełnił też funkcję przewodniczącego Najwyższej Wojskowej Komisji Opiniującej, był członkiem Rady Wojennej, przewodniczył Związkowi Hallerczyków, a w latach 1922-1927 posłował na sejm z listy Chrześcijańskiego Związku Jedności Narodowej. Jako przeciwnik Józefa Piłsudskiego potępił zamach majowy, dlatego też po zwycięstwie zwolenników Marszałka został przeniesiony w stan spoczynku.
W latach 1936 - 39 był jednym z organizatorów opozycji tzw. Frontu Morges. W latach 1940 - 43 w polskim rządzie emigracyjnym w Londynie pełnił funkcję Ministra oświaty. Po wojnie nie odwiedził już Polski. W Londynie "...żył bardzo skromnie. W pokoju obok sypialni miał piękną kolekcję książek, przeważnie polskich autorów, oraz mnóstwo polskich i zagranicznych periodyków. Czytał bardzo wiele i do ostatnich chwil interesował się życiem politycznym i społecznym. Na ścianach wizerunek Chrystusa, obrazy malarzy polskich, zdjęcia kościołów krakowskich, duża fotografia o. Kolbe z Niepokalanowa i zdjęcie Generała wśród młodzieży harcerskiej... Był niezmiernie żywy i towarzyski. Zadziwiał jasnością i głębią umysłu, nieprawdopodobną pamięcią i siłą woli."
Generał Haller zmarł w szpitalu w Londynie 4 czerwca 1960 r. w wieku 87 lat.