桓豁少有美誉，征聘于司徒府，授以秘书郎，不就。后任当时为抚军将军的司马昱属下的从事中郎，后转任吏部郎。桓豁后以患病辞官，再被任命为黄门郎时，正遇上因升平三年（359年）西中郎将谢万率军抵抗前燕却因其指挥失当而溃败，而导致许昌、颖川、谯、沛等各城都相继落入前燕之手以及豫州当地人混乱不安的局面。当时掌权的桓温于是于升平五年（361年）指派尚未拜官的桓豁都督沔中七郡（魏兴郡、新城郡、上庸郡、襄阳郡、义成郡、竟陵郡及江夏郡）诸军事、建威将军、兼新野和义成二郡太守。同年，桓豁北攻许昌，击败前燕将领慕容尘并攻下许昌，因功进号右将军。 

兴宁二年（364年），桓温加领扬州牧，并向东移镇至赭圻。次年再东移至姑孰，于是让桓豁假节监荆州、扬州之义城及雍州之京兆诸军事，并接替自己领南蛮校尉及荆州刺史。但桓豁上任后当年，即遇上梁州刺史司马勋起兵叛乱，桓豁于是在太和元年（366年）派督护桓罴领兵进攻梁州治所南郑，协助平定叛乱。同年七月，前秦王猛、杨安等人南攻荆州，进攻南乡郡，桓豁于是领兵救援。桓豁于下月移屯新野时，前秦军掠民北归。又同年，南阳督护赵亿等占据宛城并降前燕，前燕于是派南中郎将赵盘入戍宛城。桓豁于太和二年（367年）与竟陵太守罗崇进攻宛城，攻破后追击赵盘至鲁阳时将其俘获，事后在宛城戍兵并南归。 

桓豁后加监宁益二州军事。宁康元年（373年），桓温去世，桓豁升任征西将军、都督荆、梁、雍、交、广五州诸军事。同年前秦派兵进攻蜀地，桓豁派江夏相竺瑶救援，但竺瑶在广汉太守赵长战死后就领兵退还，益、梁二州领土亦因梁州刺史杨亮及益州刺史周仲孙抵抗失败并撤退后被前秦所攻占。 

太元元年（376年），桓豁升任征西大将军、开府，桓豁辞让但不获准许，桓豁于是追溯宁康元年（373年）蜀地失守之事，以自己“威略不振，所在覆败”再上书辞让开府。同年，前秦派大军进攻前凉，桓豁与其弟车骑将军桓冲合作，派督护桓罴、江州刺史桓石秀及兖州刺史朱序等进扰沔汉一带地区，以图以此纾缓前凉的压力，但前凉终被前秦所灭，各人亦罢兵。因为前凉覆亡，朝廷派出中书郎王寻之前往荆州与桓豁见面，咨询边境抵抗前秦之事。桓豁于是于太元二年（377年）表右将军毛穆之为监沔中军事、朱序任南中郎将、监沔中军事、梁州刺史，镇守襄阳，以强化对北方前秦的防御。 

桓豁终也未拜开府，并于太元二年（377年）八月丙辰日逝世，享年五十八岁。朝廷追赠司空，谥号为敬。