臧质年轻时喜欢田猎、赌博，身长六尺七寸，额部前倾，牙齿外露，头顶没有毛发，四周有一圈卷发，不到二十岁便被刘裕任命为世子中军行参军。 

420年（永初元年），臧质担任员外散骑侍郎。后因母亲去世，离职守孝。期满后，担任江夏王刘义恭的抚军参军。因为轻佻放纵，被降为给事中。后来，臧质在会稽公主的进言下，外放为建平太守。 

臧质在建平期间，得到蛮楚少数民族的拥护，被南蛮校尉刘湛称为良守，改任宁远将军、历阳太守。此后，臧质历任竟陵、江夏内史，建武将军，巴东、建平两郡太守，深得拥戴。 

当时，臧质刚刚三十岁，便多次出任名郡太守，又博览史书，精通文案，既有气魄，又喜兵法。宋文帝认为他可以办大事，欲任命他为益州刺史，又任命为使持节、宁远将军、徐兖二州刺史。臧质在任内，奢侈浪费，赏罚无常，遭到弹劾，却被宋文帝赦免。 

445年（元嘉二十二年），臧质的好友范晔密谋造反，认为臧质一定会响应。不久，范晔事泄被杀，臧质却被任命为建威将军、义兴太守。 

450年（元嘉二十七年），臧质改任南谯王司马、宁朔将军、南平内史。不久，北魏皇帝拓跋焘围困汝南，汝南戍主陈宪遣使告急。此时臧质尚未到任，奉旨轻装赶往寿阳，与安蛮司马刘康祖一起救援陈宪，斩杀北魏任城公拓跋乞地真。 

同年四月，魏军撤兵。臧质又趁机讨伐汝南境内山蛮，因功升为太子左卫率。不久，臧质因伐蛮时枉杀队主严祖等原因，被罢免官职。 

七月，宋文帝发动北伐，臧质以平民的身份与骠骑司马王方回率军攻击许昌、洛阳。十月，安北司马王玄谟进攻滑台（今河南滑县）受挫，臧质请求代替王玄谟，被文帝拒绝。 

十一月，拓跋焘率十万兵马攻打彭城（今江苏徐州），臧质被任命为辅国将军，前去援救。臧质刚到盱眙（今江苏盱眙），拓跋焘便已兵过淮水。盱眙城东有座高山，臧质担心被敌人占据，便命冗从仆射胡崇之、积弩将军臧澄之驻扎山上，自己则驻扎在南城，又命建威将军毛熙祚驻军前浦。 

魏军先攻击胡崇之与臧澄之，将两部兵马消灭后，又攻击毛熙祚部。毛熙祚的部下都是北府精兵，在幢主李灌、队主周胤之、外监杨方生的抵抗下，魏军被迫撤退。这时，毛熙祚却因伤重而死，所部随即崩溃。臧质见魏军兵盛，按兵不敢救援，以致三支部队全军覆没。当晚，臧质所部奔散，被迫丢弃辎重器械，仅率七百人退入盱眙城。 

当时，盱眙太守沈璞已作好攻守准备，城内有战士三千人。臧质大喜，便和沈璞共同防守。魏军见不能攻破攻盱眙城，便率军南下，臧质则趁机完善城池防御。 

451年（元嘉二十八年）正月，拓跋焘从广陵返回，全力攻打盱眙，并向臧质索要酒水。臧质便将自己的尿封好，送给拓跋焘。拓跋焘大怒，在一夜之间筑起长围攻城，并用东山土石填堑，在君山造浮桥，切断了盱眙的水陆通道。 

拓跋焘还给臧质写信道：“我如今所派的兵马，都不是我们鲜卑人，你杀了他们，对我只有好处。”臧质则回信道：“你可知道王玄谟与申坦为何兵败？童谣曾说‘虏马饮江水，佛狸死卯年。’如今还不到卯年，所以二将兵败，让你饮马长江。我正要消灭你，你却自动上门送死，那我怎能让你活着回去！你难道比得上苻坚吗？斛兰氏当年深入彭城，遇到几天雨水，没有一个人活着回去，怎么你不记得了？春雨马上将到，我们的援军将要四面会集，你尽管安心攻城。如果你们粮草不够的话，尽管告诉我，我会送给你粮食。现在你送我一把战刀，难道是想叫我砍在你身上吗？大家各自努力吧。” 

拓跋焘大怒，做了一个铁床，上面放上一些铁镵，道：“攻破城池，抓到臧质，就让他坐在这上面。”臧质又给魏军各族士兵致信道：“拓跋焘写给我的信在这里，你们都是中国百姓，何必为敌人如此出力，男子汉大丈夫怎么不知道转祸为福呢！能杀死拓跋焘的，封万户侯，赐布绢各一万匹。” 

魏军用钩车钩城楼，宋军便在城内用粗麻绳系住钩子使钩车不能退回。夜晚，宋军用木桶将士兵吊出城外，斩断钩子把钩车拉进城来。次日，魏军又用冲车攻城。但城墙坚固，冲车每一次冲撞的地方也不过掉几升墙土。于是魏军又赤膊登城，轮番而上，死尸堆积的几乎和城墙一样高。两军鏖战三旬，魏军战死过半。 

这时，彭城王刘义康截断魏军的退路，朝廷也派水军由海上进入淮河，而且魏军很多将士都死于疾疫。二月二日，拓跋焘被迫撤围退走。战后，沈璞将首功归于臧质，臧质因功被封为使持节、监雍梁南北秦四州诸军事、冠军将军、宁蛮校尉、雍州刺史、开国子。 

452年（元嘉二十九年），宋文帝再次北伐，命臧质率所部出兵潼关（今陕西潼关县东北）。但是臧质在城郊按兵不动，只派司马柳元景驻兵边境之上。后来，臧质又留恋宠妾，丢下军队一个人回到襄阳，遭到弹劾，但是宋文帝并未问罪。 

543年（元嘉三十年），皇太子刘劭弑父篡位，任命臧质为丹阳尹、征虏将军。不久，臧家派门生师顗将刘劭弑父的事情告诉臧质。臧质便命人把此事告诉司空刘义宣与武陵王刘骏，然后亲率五千兵马讨伐刘劭，到江陵面见刘义宣。刘义宣得到臧质的通告后，当即起兵，任命臧质为征北将军。臧质直接进兵寻阳（今江西九江西南），和刘骏同时东下。 

同年四月，刘骏在新亭称帝，是为宋孝武帝。臧质被任命为散骑常侍、车骑将军、开府仪同三司、江州刺史，率所部自白下进攻广莫门。当时，建康城内人心已乱，文武官吏纷纷出降，广莫门无人守卫。臧质攻入广莫门，与薛安都、程天祚在太极殿会合，并生擒刘劭，因功封始兴郡公。 

不久，臧质返回江州，随行船只达千余艘，所部军队前后长达百余里。 

当时，孝武帝大权独揽，臧质却只是把他视为少主，一切刑赏政务，不向朝廷请示汇报，自作主张，还私自挪用粮草。后来，朝廷多次派人查问，臧质逐渐产生疑惧。 

臧质自以为才智足够称得上一世英豪，当初听说刘劭谋逆，便心存异志。他见刘义宣能力平庸，容易挟制，便想推他为主，自己暗中掌权。臧质到江陵（今湖北荆州）后，拜见刘义宣，刘义宣很奇怪的问：“兄长何故拜小弟？”臧质答道：“就应该这样。”但当时刘义宣已经推举孝武帝，因此臧质的谋划没有成功。后来，臧质在新亭又拜见江夏王刘义恭，道：“先前在荆州，我也是这样见义宣的。” 

后来，孝武帝考虑荆州是长江上游重镇，不愿让刘义宣久居荆州，便内调其为丞相、扬州刺史。刘义宣主掌荆州十年，财富兵强，对此甚为不满。孝武帝还奸淫刘义宣诸女，刘义宣更是恨怒。臧质趁机秘密写信给刘义宣，对他述说当时朝廷的局势，又道：“挟有震主之威的人，是不能长久地保持官位的，皇帝和丞相势均力敌，一山不容二虎，今日你独立掌握封疆大权，荆州地形险固，兵强马壮，犹豫未决，必定被别人抢先，招致祸害。” 

刘义宣与臧质乃是儿女亲家，认为他不会有二心，便接受他的劝说。而且，刘义宣的心腹将领蔡超、竺超民等人，都有很大的野心，希望刘义宣称帝，也想凭借臧质的威名，成就他们的大事，便怂恿刘义宣。臧质又敦促儿子臧敦去劝说刘义宣，终于使刘义宣下定决心。 

454年（孝建元年），刘义宣派人送信给豫州刺史鲁爽，约定在秋季同时起兵。不料，鲁爽因醉酒，当时便宣布起兵，其弟鲁瑜带着家人逃出京城。鲁瑜之弟鲁弘在臧质属下任职，孝武帝便遣使者命臧质拿下鲁弘。臧质扣留使者，仓促起兵，并上表孝武帝，言欲除君侧奸臣。 

臧质任命鲁弘为辅国将军，东下屯兵大雷城（今安徽望江），并且派人报告刘义宣，刘义宣派咨议参军刘湛之率领一万士兵与鲁弘会合。这时，孝武帝命柳元景与王玄谟驻军梁山洲（今安徽和县南），在长江西岸建起弯月形的堡垒，等待臧质军的到来。殿中将军沈灵赐则率一百艘小舰在南陵（今安徽繁昌南）击破臧质的先锋部队，生擒臧质部将徐庆安、王僧。不久，臧质到达梁山，也在西岸修筑堡垒与官军对阵。 

同年四月，刘义宣东进，并在刘义恭的离间下，对臧质产生疑忌。不久，刘义宣进兵芜湖，臧质献计道：“如今派一万兵攻取南洲，那么梁山的敌兵便会兵分两路，用一万人牵制王玄谟，他一定不敢动，我便在江中连结水军，直攻石头城，这是上策。”刘义宣本欲听从，后在刘谌之的劝说下作罢。 

臧质命部将尹周之攻打西岸宋军胡子反部。当时，胡子反正要到东岸王玄谟处商议军情，闻听急忙赶回。此时，偏将刘季之正拼死抵抗，向王玄谟求救，王玄谟命崔勋之与积弩将军垣询之驰援。二人抵达后，尹周之已攻陷西岸堡垒，并杀崔勋之和垣询之，胡子反等逃回东岸。臧质又命庞法起兵进南浦，欲自后掩击王玄谟，但被垣护之的水军击败。 

臧质仍准备攻打东城，咨议参军颜乐之对刘义宣道：“臧质若再攻下东城，那么所有的功劳便都是他的了，应该派遣你的部队自己行动。”刘义宣便派刘湛之跟着臧质在城南布阵。王玄谟留老弱残兵守城，率精兵出击。薛安都首先击溃臧军东南阵脚，刘季之、宗越又击溃西北阵脚，臧质大败。宋军又顺风放火，烧毁臧军的船只，火势还蔓延到西岸。臧质想找刘义宣讨论军情，谁知此时刘义宣早已逃走。臧质手足无措，也弃军逃跑。 

同年六月，臧质到达寻阳，将府邸烧毁，带着妓妾西逃，欲到武昌（今湖北鄂城）投奔妹夫羊冲。到了武昌，臧质方知羊冲已被斩杀，无奈之下只得跑到南湖，饿的摘莲子吃。这时，追兵赶到。臧质被迫潜到水下，用荷叶遮头，可还是被人发现。军主郑俱儿一箭射中臧质，接着乱刀砍来。臧质的肠胃都流淌出来，缠绕在水草之间。队主裘应将他首级砍下，传送京城。臧质死时五十五岁。 

孝武帝将他的首级用漆封住，放在武库中，作为后人鉴戒，并将他的子孙、党羽斩首弃市。