唐武宗时任湖州(今浙江省湖州市)刺使。唐宣宗大中四年(850年)，起任宰相。此后一直在这个职位上工作到大中十三年(859年)唐宣宗去世。大中十三年秋八月，为山陵礼仪使。唐懿宗时，出为河中节度使。后来前后担任宣武、淮南等四镇节度使。后召入知制诰，辅政十年，拜司空、检校司徒，封凉国公。868年(咸通九年)庞勋起义军攻占徐州(今江苏省徐州市)，他受命为徐州南面招讨使，屡为庞勋所败。僖宗时召入任为凤翔(今陕西省凤翔县)节度使，后又召为太子太保，徙封赵。卒于封地。

令狐绹执政的时代，已经是唐代的晚期，政权已经缺乏振作的生命力。他没有良好的政绩记录也并不奇怪。唐宣宗是晚唐最后一个比较强势的皇帝，而令狐绹以一种小心翼翼的态度处理了他们之间的合作关系。《旧唐书》上说他的性格胆小迟缓。这也许是他身居相位达10年之久的原因之一。

令狐绹的父亲令狐楚也曾经在唐宪宗元和年间担任过宰相。根据《资治通鉴》上的记载，令狐绹能够升任宰相，在某种程度上是宣宗感动于令狐楚对宪宗的忠诚。令狐绹之子令狐滈骄纵不法，受贿卖官，人称“白衣宰相”。令狐绹还有几个儿子：令狐澄、令狐专、中书舍人令狐涣。