会稽世子司马元显执政时，桓石绥任司徒司马德文的左长史。元兴元年（402年），桓玄消灭司马道子、司马元显父子势力而掌政，桓石绥任黄门郎、左卫将军。

404年，桓玄兵败被杀后，桓石绥逃入涂中（今安徽滁州），打算聚众攻打历阳（今安徽和县），并盘据在江淮之间。

406年，桓石绥与司马国璠、陈袭于胡桃山，聚众为寇，侵扰东晋郡县，刘毅遣司马刘怀肃将其击破。

410年，桓石绥乘卢循作乱之机，自洛口（今陕西洋县）起兵，自号荆州刺史；征阳令王天恩亦自称梁州刺史，进据西城（今陕西安康市西北）。时梁州刺史傅歆就命魏兴太守傅弘之讨伐桓石绥等，将之斩杀。

桓谦亦于同年于荆州被刘道规所杀。《晋书》以桓石绥的死亡标志桓楚余党的灭亡。