赵黑容貌端正，处事谨慎，得到魏世祖欢心，从服侍世祖膳食一跃而成为安远将军，吏部尚书，睢阳侯，后又进爵河内公。

魏世祖想将皇位传于京兆王子推，而不传位于高祖，便征询众臣意见，大多数大臣唯唯诺诺，只有贺源等人直言不讳地反对，不愿遵旨，使世祖雷霆大怒，便转问赵黑看法如何。赵黑从容不迫地说：“皇上春秋始富，如日方中，天下人都很满意，这种清平盛世，万物沐浴恩泽，老百姓都希望圣上能千秋万代。如此，我当然效忠于您一生一世。但若皇上要颐神养性，我只好至死效忠于皇太子。”世祖再三思量，终于把皇位传给高祖。

赵黑深得世祖宠幸，俸禄优厚，与赵黑同在吏部供职的李诉也很受宠爱，李诉徇私舞弊，把他的许多亲信安插在各地任要职。赵黑痛恨李诉徇私枉法，破坏朝廷用人制度的行为，同李诉在朝廷上据理力争，义正辞严地说：“国家历来的制度是凭功劳授予官职，依爵位供给俸禄。中书侍郎、尚书主书郎等最多可在郡县做个官，李诉却让他们在方州主事，我实为惑！”世祖对李诉所为产生怀疑，于是将与李诉最要好的人公孙蘧撤职。因而赵黑与李诉之间的隔阂加深。

李诉利用权势把赵黑赶出朝廷，贬为门士，赵黑自知被李诉怀恨所至，于是孜孜不倦，潜心努力不久又供职于吏部。赵黑揭发李诉所为，李诉被贬至徐州，后又犯罪被杀。后来赵黑接连升迁，官运亨通，持节，历任镇南大将军、仪同三司、定州刺史，进爵为王。但赵黑不以高官自居，仍然克勤克俭，清正廉洁。有人向他行贿，他拒绝道：“我已是高官厚禄，足以自给，卖公营私，不是我愿干的勾当。”终于不接受贿赂。高祖和太后听到此事后，给赵黑赐帛500匹，谷1500石，并调他为冀州刺史。

太和六年（公元482年），赵黑任冀州刺史时去世，终年73岁。孝文帝赐给大量谷、帛和车二十乘。灵柩送到京都安葬，追赠司空，谥号为康。