徐孝嗣的祖父徐湛之，父亲徐聿之在刘劭事件中被杀，孝嗣遗腹，故不死。母亲为了改嫁，千方百计想堕胎，可是始终不果。诞生后取小字遗奴。尚宋孝武帝女康乐公主，宋明帝时开始追随萧道成。萧齐建立，受到尚书令王俭的推崇，预言他将来会继自己为宰相。王俭死后被齐武帝任命为五兵尚书，后转吏部尚书，地位迅速崛起。武帝崩，在萧鸾废萧昭业事件中得到萧鸾欢心，萧鸾继位后拜位枝江县公，后迁尚书令（宰相）。

东昏侯继位，失德。徐孝嗣参与平定萧鸾兄子始安王萧遥光之乱，后又数度谋划废帝，东昏先赐其毒药而死。女儿为东昏胞弟江夏王萧宝玄正妃，被东昏强令离婚。

他死前被一同赐死的沈昭略怒骂：“废昏立明，古今令典；宰相无才，致有今日！”并拿装毒酒的瓯瓶猛掷徐孝嗣的脸，接着说：“使（你）作破面鬼！”徐孝嗣回答沈昭略说：“之前一直想跟你的仆射叔父沈文季联手废帝，但令叔却婉转拒绝。”徐孝嗣喝了一斗的毒酒，才终于毒发身亡。萧梁的裴子野于其《宋略‧总论》中，借由批判宋末大臣袁粲不能废掉宋后废帝，以此讽刺同样不能废帝的徐孝嗣，认为袁、徐二人要对宋、齐之灭亡负责。