杨忠出身于官宦世家，其十三世祖杨震是东汉重臣，官至太尉；五世祖杨铉仕后燕，官至北平太守；高祖父杨元寿仕北魏，官至武川镇司马，因而安家在神武树颓；曾祖父杨惠嘏，官至太原太守；祖父杨烈，官至龙骧将军、平原太守（一作太原郡守）；父亲杨祯，以军功授任宁远将军。 当时正值北魏末年，天下动乱，杨祯于是避居中山，聚集部众讨伐鲜于修礼，作战而死。北周保定年间（561年—565年月），由于杨忠的功勋，追赠柱国大将军、少保、兴城郡公。 

杨忠胡须漂亮，身高七尺八寸，容貌俊美，身材魁梧，武艺过人，见识精深，器量极大，有将帅的才能谋略。 

杨忠十八岁时，出外游览泰山，恰逢南朝梁军队攻下该地，杨忠被抓获到江南。永安二年（529年），杨忠在南朝梁居住五年后，跟随叛魏降梁而自立的北海王元颢进入洛阳，授任直阁将军。同年，元颢兵败，尔朱度律将杨忠召到帐下充当统军。尔朱兆率领轻装骑兵从并州进入洛阳时，杨忠参预其事。朝廷赐封爵位昌县伯，授任都督，另封小黄县伯。后来，杨忠跟随独孤信攻克南朝梁的下溠戍，平定南阳，都建立战功。 

高欢举兵内犯时，杨忠正跟随独孤信在洛阳，于是就随着北魏孝武帝元修西迁，进封侯爵。并参与平定潼关，攻克回洛城。朝廷任命杨忠为安西将军、银青光禄大夫。永熙三年（534年），当时东魏荆州刺史辛纂占据穰城，杨忠跟随独孤信前往征讨，辛纂战败逃跑。独孤信命令杨忠与都督康洛儿、元长生担任前锋，驱马直奔穰城，大声呵斥守门者说：“如今朝廷大军已到，城中有人接应，你们要想活命，为什么还不逃走？”守门的士兵全都四散奔逃。杨忠与康洛儿、元长生乘机入城，弯弓大呼，辛纂的卫兵一百多人不敢抵挡，结果杀死辛纂示众，城中之人全都畏惧降服。杨忠等人在此居住半年，由于东魏军队逼近 ，便与独孤信一起投奔南朝梁。梁武帝萧衍认为杨忠是个难得的奇才，任用他担任文德主帅，封关外侯。 

大统三年（537年），杨忠与独孤信回到西魏都城长安 ，西魏丞相宇文泰喜爱杨忠的勇猛，便将他留在自己的身边。 杨忠曾经跟随宇文泰到龙门打猎，杨忠独自抵挡一头猛兽，左手紧抱兽腰，右手拔出兽舌。宇文泰很赞赏杨忠的勇猛。北方人把猛兽称作“揜于”，因此就把“揜于”作为杨忠的表字。 

后来，杨忠跟随宇文泰作战，捉拿窦泰，大破沙苑的敌阵，因功升任征西将军、金紫光禄大夫，进封襄城县公。河桥战役时，杨忠与五位壮士奋力作战，守卫桥梁，敌军最终不敢前进。杨忠以战功授任左光禄大夫、云州刺史，兼任大都督。杨忠后与李远击败黑水一带的稽胡，并同怡峰解除玉壁之围，因功改任洛州刺史。邙山之战时，杨忠率先冲锋陷阵，因功授任大都督 ，升任车骑大将军、仪同三司、散骑常侍。朝廷追封杨忠的母亲盖氏为北海郡君。不久授任杨忠为都督朔、燕、显、蔚四州诸军事，朔州刺史，加任侍中、骠骑大将军、开府仪同三司。东魏包围颍川时，蛮夷主帅田柱清凭借险要发动叛乱，杨忠率军前往征讨并平息叛乱。 

大统十五年（549年），当时侯景渡过长江，梁武帝兵败受到重创，南朝梁义阳郡守马伯符献出下溠城投降西魏。西魏朝廷趁此机会，准备筹划谋取汉水、沔水一带，便任命杨忠为都督三荆、二襄、二广、南雍、平、信、随、江、二郢、淅十五州诸军事，镇守穰城。 以马伯符作为向导，攻克南朝梁的齐兴郡和昌州。南朝梁雍州刺史、岳阳王萧詧虽然向西魏称藩，但还怀有二心。杨忠从穰城（一作樊城）出发到汉水边，检阅军队，大示兵威，命令将士变换旗帜，按照次序前进，其实不过只有两千兵马。萧詧登上城楼观望，误认为有三万兵马，这才感到震惊并真心顺服。 

当时，南朝梁司州刺史柳仲礼留下其长史马岫镇守安陆，自己率领一万兵马进犯西魏。起初，南朝梁竟陵郡守孙皓献出其郡前来归附，宇文泰命令大都督符贵前往镇守。当柳仲礼兵到时，孙皓捉住符贵投降。柳仲礼派遣部将王叔孙与孙皓一同守城。宇文泰发怒，命令杨忠率军南征。攻克南朝梁的随郡，活捉守将桓和。一路所经过的城堡和营垒，全都望风请求投降。 

大统十六年（550年）正月，杨忠围攻安陆，柳仲礼听闻随郡失陷，担心安陆守不住，便急忙返回援救。诸将担心柳仲礼的援兵抵达后，安陆就难以攻克，都请求加紧攻城。杨忠说：“攻守双方态势悬殊，不可能迅速攻占。如果我军拖延时日，劳顿军队，内外受敌，这可不是好办法。南方人大都习惯水战，不熟悉在原野作战。柳仲礼的军队就在附近，我军出其不意，以奇兵突袭，敌军懈怠，我军奋勇，一举可克。打败柳仲礼，那么安陆就不攻自破，其余各城就可传送文告而使它们平定。”于是精选两千骑兵，为了防止喧嚣而暴露意图，令所有的人口中衔着小木棍，乘夜偷袭，在淙头（一作漴头）与柳仲礼遭遇。杨忠亲自冲进敌阵，击败并擒获柳仲礼，把他的军队全部俘虏。马岫献出安陆投降，王叔孙杀死孙皓，献出竟陵投降，一切都按杨忠事先的计策实现。从此汉东之地全部归属西魏。 

同年二月，杨忠乘胜率军抵达石城，意欲进逼江陵。梁元帝萧绎派舍人庾恪前往劝说杨忠，说：“萧詧目无尊长，竟然进攻叔父，而魏国帮助他，这怎么能使天下归心！”杨忠听后，就停兵于湕北。萧绎派舍人王孝祀送来其子萧方略作为人质以求和，西魏朝廷答应。萧绎与杨忠订立盟约，约定“魏国以石城为封疆，梁国以安陆为国界，请求按照附庸关系，互送儿子作为人质，发展贸易以通有无，永远作为邻邦和睦相处。” 杨忠于是凯旋回师，因功进封爵位为陈留郡公 ，位至大将军。 

大统十六年（550年）十二月，梁元帝之兄邵陵王萧纶在汝南修筑城池召集士兵，准备夺取安陆。西魏安州刺史马祐把这一动向报告丞相宇文泰。宇文泰派杨忠带领一万人前往援救安陆。 

大统十七年（551年）正月，梁元帝进逼邵陵王萧纶。萧纶北上，与前任西陵郡守羊思达邀请随州、陆州土豪段珍宝、夏侯珍洽，合谋把人质送往北齐，准备出兵来侵犯西魏。汝南城主李素从前是萧纶的部下，于是打开城门接纳萧纶。梁元帝秘密通报给宇文泰，宇文泰派杨忠率军讨伐萧纶。杨忠围困汝南，李素战死。二月初一日，杨忠在黎明时发起进攻，午后就攻陷汝南，活捉萧纶，列举他的罪状，然后将他杀死，并将他的尸体扔在江岸边 ；同时活捉安乐侯萧昉，也将他杀死。当初，杨忠活捉柳仲礼后，待他很好。柳仲礼到京师后，在宇文泰面前说杨忠的坏话，说他在军中大肆聚敛金宝珍玩等物。宇文泰打算调查此事，但爱惜杨忠功劳很大，所以没有过问，只是把他调出京师。杨忠知道后，心中非常恼恨，后悔当时没有杀掉柳仲礼。所以这次活捉萧纶等人，就将他们全部杀掉。 

大统十八年（552年），杨忠再次发兵攻打南朝梁，将汉水以东地区全部占领。杨忠对待部众很宽厚，因此很得新归附地方的民心。 

西魏恭帝初年（554年）赐姓普六茹氏，兼管同州事务。九月，杨忠奉命与常山公于谨、中山公宇文护带兵五万进攻南朝梁的江陵。十月，西魏军队从长安出发。 十一月，魏军渡过汉水，当时杨忠担任前军，于谨命令杨忠与宇文护率领精锐骑兵先占领江津，然后屯守在长江渡口，切断梁元帝东逃的道路。 梁军用刀绑在大象的鼻子上赶着在前面作战，杨忠用箭射象，两只大象回身而走。不久，魏军大败梁军，攻陷江陵，杀死梁元帝。西魏朝廷立萧詧为南朝梁国君，命令杨忠镇守穰城 ，形成犄角之势。后平定沔水流域蛮族各部。 

北周孝闵帝元年（557年），宇文泰之子孝闵帝宇文觉受禅登基，建立北周政权后，杨忠入朝担任小宗伯。 北齐军队侵犯北周东部边境时，杨忠出兵镇守蒲坂。 

北周明帝二年（558年）二月，北齐北豫州刺史司马消难请求投降北周。三月，杨忠奉命与达奚武率领五千骑兵前往迎接司马消难来降。他们从小路驰入北齐境内五百里，前后三次派遣使者与司马消难联络，都没有联络上。到距离北豫州虎牢城三十里的地方，达奚武怀疑情况有异变，想返回，杨忠说：“我们只有前进赴死的责任，没有后退求生的道理！”于是独自带领一千骑兵连夜赶到城下。虎牢城四面极为高陡，犹如绝壁，只听得城中传来一阵阵巡夜人敲木梆的声音。达奚武亲自赶来，指挥数百骑兵退却西去，杨忠指挥剩下的骑兵原地不动，等城门打开进城后，才急忙飞驰通知达奚武前来。北齐镇守城池的将领伏敬远指挥甲士两千（一作三千）人据守东城，点燃烽火，严加警戒。达奚武感到害怕，不想保住城池，于是就大肆虏掠财物，让司马消难和他的部属先回西魏，杨忠带三千骑兵殿后。军队行抵洛水南岸时，将士们都解下马鞍躺在地上休息。齐军追赶过来，到达洛水北岸，杨忠对将士们说：“你们只管饱吃一顿，现在我们处于必死之地，敌军怕我们与之拼命，一定不敢渡河来追！”将士们吃完后，齐军装出准备渡河的样子，杨忠指挥骑兵立即奔驰前往迎击，齐军不敢逼近，杨忠于是慢慢地引领军队平安返回。达奚武不由感叹地说：“我达奚武自认为是天下健儿，今天在杨忠面前算是服气了！” 杨忠因功升任柱国大将军。 

武成元年（559年），杨忠晋封隋国公，食邑一万户，另有竟陵县食邑一千户，收取其租税田赋。 随即担任御正中大夫。 

保定二年（562年）五月，杨忠升任大司空。 当时朝廷正商议与突厥联合讨伐北齐，大臣们都说：“北齐占有半个天下，国家富裕，兵马强盛。如果从大沙漠以北进入并州，极为艰难，况且大将斛律光不易对付。如今想深入其老巢，非需十万军队不可。”只有杨忠说道：“军队取胜，在于内部和谐，而不在人多，有一万名骑兵就足够。斛律光这个小子，有多大的本领？” 

保定三年（563年）九月，朝廷任命杨忠担任元帅，统帅大将军杨纂、李穆、王杰、尔朱敏、开府元寿、田弘、慕容延等十余人率领步兵、骑兵一万人，与突厥从北路出发讨伐北齐。朝廷同时命令达奚武率领步兵、骑兵三万人从平阳南路出发，约好时间在晋阳会合。 十二月，杨忠留下尔朱敏据守什贲，派兵在黄河边巡逻。杨忠从武川出兵，经过自家从前的住宅时，祭祀祖先，大宴将士，迅速攻占北齐二十多座城池。齐军防守陉岭的山口，杨忠出奇兵奋勇进击，大败齐军。同时留下杨纂屯守在灵丘，准备阻击从后面来的救兵。突厥的木杆可汗、地头可汗、步离可汗率领十万骑兵前来会合。 

保定四年（564年）正月初一日，进攻晋阳。当时大雪连下几十天，寒风劲烈，齐军便全部出动精锐部队，呐喊地冲出城来。突厥骑兵震惊，带着兵马退向西山，不肯与齐军交战，众人都惊恐不安神色大变。杨忠命令部下说：“成事在天，不必考虑人数多少。”于是率领七百人和敌军展开步战，阵亡的十分之四五。由于达奚武误期不至，周军只得撤军。齐军也不敢进逼。突厥趁机放纵兵士大肆抢掠，从晋阳直到平城，沿途七百余里，人畜掳掠一空，俘虏杀死很多。北周武帝宇文邕派使者到夏州迎接慰劳杨忠。杨忠到京师后，宇文邕在宴会上对他大加赏赐。宇文邕准备任命杨忠为太傅，晋公宇文护由于杨忠不肯依附自己，从中作梗，于是授任杨忠为总管泾豳灵云盐显六州诸军事、泾州刺史（一作泾州总管）。 

保定四年（564年）八月，杨忠会同突厥讨伐北齐，兵到北河后便返回。 十二月，北周东征北齐，宇文护出兵洛阳，命令杨忠从沃野出兵，接应突厥，由于军粮短缺，军中担忧，想不出办法。杨忠说：“应当暂时想办法来解决。”于是，杨忠派人把稽胡众首领都骗来，让他们都坐在一起，让河州刺史王杰统率士兵敲着战鼓赶到这里，然后杨忠故意装出吃惊的样子，问王杰要干什么。王杰回答说：“大冢宰已经攻下洛阳，天子听说银州、夏州之间胡人骚乱，所以派我来除掉他们。”接着，让突厥的使者骑马前来报告说：“可汗已经进入并州，留下兵马十万人在长城下待命，因此命令我来向您请求，如果有稽胡人不肯归顺，就来这里一起打败他们。”在座的稽胡众首领都很害怕，杨忠便安慰他们一番并讲明道理，然后放他们回去。于是，稽胡各部落相继归顺，送来的各种粮草，塞满道路，军粮于是充足。由于宇文护首先退军，杨忠也罢兵返回镇所。 杨忠因政绩突出，宇文邕下诏赏赐钱三十万、布五百匹、谷子二千斛。 

天和三年（568年），杨忠因病回京。宇文邕与宇文护曾多次亲临看望。同年七月初七日，杨忠去世，享年六十二岁，追赠太保，都督同、朔等十三州诸军事、同州刺史，原来生前官职照旧，赐谥号“桓”。其子杨坚承袭封爵。 

开皇元年（581年），杨坚登基称帝，建立隋朝，追谥杨忠为武元皇帝，庙号太祖。