李义府早年以荐举入仕，历任门下典仪、监察御史、太子舍人、中书舍人。他是唐高宗的东宫属官，因迎合高宗，建议废王立武，被拜为宰相，授任中书侍郎、同中书门下三品，封广平县男，并成为武则天的心腹，后又进爵广平县侯。李义府任相期间，广结朋党，卖官鬻爵，权势熏天，多有不法之行，后升任中书令，进爵河间郡公。他出身微贱，虽官居宰相仍不得入士流，因此奏请重修《氏族志》，主张不论门第，凡得五品官以上者皆入士流。龙朔三年(663年)，李义府因请术士望气，被长流巂州。乾封元年(666年)，唐高宗大赦天下。李义府因不在被赦之列，忧愤而死。时年53岁。武则天即位后，追赠他为扬州大都督，但在睿宗年间被收回。李义府表面上随和有礼，与人说话，总是和言悦色，但内心褊狭嫉妒、阴狠残忍。在他位居要职后，凡是对他稍有触犯者，都会遭到陷害。当时人都说他笑中有刀，称他为“李猫”。