皇建初年，任太傅，和彭城王高浟、河间王高孝琬都给随身卫士、羽林军一百人。太宁元年（561年），升任太宰。性格沉稳谨慎，以宽厚著称。河清三年（564年），在晋阳去世，有人说是被毒酒毒死。送回葬在邺城，追蹭假黄铁、太宰、录尚书事，谥号靖翼。其子高德素继承王位。 

高淹在元象中期，被封为平阳郡公，累迁尚书左仆射。天保（550年）初，进爵为王，历任尚书、开府仪同三司、司空、太尉。

皇建（560年）初，为太傅，与彭城王高浟、河间王高孝琬并给仗身羽林军一百人。大宁元年（561年），迁位太宰。个性沉著谨慎，以宽厚被人称颂。

河清三年（564年），薨於晋阳，或云以鸩终。还葬邺，赠假黄钺、太宰、录尚书事。其子高德素嗣位。