魏舒的先人是跟随晋文公诸贤之一的魏犫，以勇力闻世，曾跟随重耳流亡十几年。重耳即位后，魏犫遂成为晋文公的主要将领。魏献子侍奉晋昭公。春秋晚期只剩下韩、魏、赵、范、智、中行6家最大的宗族，控制了晋国的政局，称为六卿。昭公去世后，晋国的六卿强盛起来，公室衰微下去。

晋顷公12年（前514年），执政的韩宣子告老，遂让位于魏舒。魏献子主持国政。魏氏从此成为晋国主要的家族。

魏舒在晋国执政6年，展尽才华，奠定了日后三家分晋魏国的基础，使魏军成为当时的一支劲旅.六卿各自采取革新措施，以期发展实力。韩、赵、魏的改革尤为彻底。后来赵又灭范氏、中行氏，迫使他们逃出晋国。

春秋末年，智氏最强，赵联合韩、魏消灭智氏。晋长期的卿大夫兼并战争告一段落，三家被周威烈王册封为诸侯。

公元前376年，韩、赵、魏废除晋国的最后国君——晋静公，最终完成三家分晋的历程。三家分晋是以新旧势力斗争为表现形式的晋国社会变革的结果，是中国古代历史从春秋时代进入战国时代的重要标志之一。

魏舒的成名之作——大原之战，此役宣告数百年的车战历史的结束，步战成为中国战争史上主导方式。

晋平公17年（前541年）夏，山戎部落进犯中原，魏舒及荀吴（中行穆子）率晋军进攻无终（山戎国名）及和群狄（好些少数民族），同戎狄的步兵遭遇于大原（今山西太原西南）。

太行山区，山峦重叠，道路崎岖，地形险狭。魏舒感到戎狄是是步兵，己方是兵车，在山地作战，兵车机动困难，难以取胜。于是出谋“毁车为行”，把兵车改造为步兵，改车战为步战。即把5乘兵车的甲士（每乘甲士3人，5乘共15人），改变为5人为1伍，共编为3个伍的肩甲步兵，与原有轻装步兵合编，作为战斗的基本单位，使原来以两、伍、专、参、偏为编组的战车阵形，变成以前锋、后卫、左翼、右翼、前拒为编组的互相配合的步战阵形。

荀吴的宠臣不肯舍车就步，魏舒当场把他斩首示众。

长于步战的戎狄军队，耻笑晋军的失常之举。魏舒利用敌军的骄傲和麻痹，乘对方尚未到阵，便挥军出其不意地冲向敌人，大败敌兵，取得了胜利。

晋定公3年（公元前509年），魏舒合诸侯之大夫于狄泉（泉名，今河南洛阳）为成周筑修城墙。他把事情交给了韩献子和原寿过，自己跑到大陵泽（今河南获佳县西北）去打猎，放火烧荒，回来死在宁（今河南获佳县西）。