其父韦思谦，为进士，累任御史大夫，以太中大夫致仕。韦嗣立初由进士为双流县令，政绩卓著。公元695年(证圣元年)，其兄韦承庆为凤阁舍人，因病去任，朝廷召时任莱芜县令的韦嗣立代为凤阁舍人，深得武则天信任。武后长安时为凤阁侍郎。当时酷吏横行，人人自危，他却敢于挺身而出，犯颜直谏。提出“兴学校、洗枉滥”，但未被采纳。遂以凤阁侍郎身份为检校汴州刺史。由于其兄韦承庆依附张易之兄弟，二张被诛后，韦嗣立因与二张友善罪被贬饶州。中宗景龙时任兵部尚书。韦嗣立因与万年(今西安市旧城一带)人韦后同姓，曾奉诏附韦后属籍。韦后临朝乱政，为玄宗所杀，韦嗣立为此受到株连，徙往陈州，死后追谥为“孝”。