大定八年（1168年），胡沙虎任皇太子护卫，其后改任太子仆丞、拱卫直指挥使等职。

明昌四年（1193年），胡沙虎因为殴伤监酒官而受罚。不久，胡沙虎迁右副点检，因“肆傲不奉职”被降为肇州防御使。明昌五年（1194年）迁兴平军节度使，其后官职又有变更，曾任知大名府事。

承安二年（1197年），执中被召为签枢密院事金。章宗诏执中跟随丞相完颜襄征伐，胡沙虎不打算前往，上奏说：“臣和完颜襄有过节，他将杀害臣。”金章宗对他出言不逊感到愤怒，命有司治他的罪，不久赦免了他，出为永定军节度使。胡沙虎后来改任西北路招讨使，复为永定军节度使，又因犯事被解职。 

泰和元年（1201年），胡沙虎又被起用为知大兴府事，任内被御史中丞孟铸弹劾说：“胡沙虎贪婪残忍、专横放肆，不奉法令。赦免之后，屡次犯错却不改过。已经得到陛下的施恩宽宥，反而转生跋扈骄横之心。”于是胡沙虎被改任武卫军都指挥使。

泰和六年（1206年）十月，胡沙虎在对宋战争中攻克淮阴，进兵围楚州，迁元帅左监军。不久，南宋请和，胡沙虎西南路招讨使，改西京留守。 

大安元年（1209年），完颜永济授胡沙虎世袭谋克，再次出任知大兴府事，后来又复为西京留守，行枢密院，兼安抚使。

大安三年（1211年），蒙古进攻金国，胡沙虎率兵七千在定安之北迎战蒙古军，却临阵脱逃，其军遂溃败。胡沙虎走到蔚州时，擅取官库银五千两及衣币诸物，夺官民马，入紫荆关后又杖杀了涞水县令。胡沙虎来到中都，朝廷却没有治他的罪，更升他为右副元帅，权尚书左丞。胡沙虎更无所忌惮，自请步骑二万屯宣德州，朝廷只拨了三千人给他，令驻妫川。 

崇庆元年（1212年）正月，胡沙虎请求移屯他处，给尚书省的文书竟然说：“蒙古大军来了必然无法抵挡，我一死不足为惜，但三千军队为之担忧，十二关、建春、万宁宫将无法保住。”引起朝廷不满，下有司按问，诏数其十五罪，罢归田里。次年，胡沙虎又被召至中都，预议军事。左谏议大夫张行信、丞相徒单镒等人认为不可以任用胡沙虎，事情暂时搁置，胡沙虎被罢官以后，极力结交完颜永济左右的宦官侍者。 

完颜永济在至宁元年（1213年）五月再次起用执中，任他为右副元帅，把武卫军数千人交给他指挥，屯中都城北。

这时候蒙古兵离中都越来越近了。作为右副元帅的胡沙虎不去做好抵御蒙古兵进攻的战斗准备，而是每天带着人打猎放鹞子，耽于田猎，疏于军务，完颜永济知道后，就派使者到胡沙虎营中责问他。当时胡沙虎正在喂鹞子，听了皇帝的指责极为不满，从笼中抓起一只鹞子往地下用力一摔，鹞子不一会儿就死了。他说：“我胡沙虎干事向来是我行我素，不喜欢受人干涉，谁想干涉我的行为，这只鹞子就是下场！”

胡沙虎已经露出了弑君谋反的端倪。使者把他的言行禀报以后，完颜永济竟未对胡沙虎采取制裁措施。胡沙虎见皇上软弱可欺，国家又遭蒙古军侵犯，认为有机可乘，更坚定了谋反弑君的决心，经过密谋之后，于至宁元年（1213年）八月二十五日的晚上兵分两路开进中都城，一路进攻章义门，一路进攻通玄门。胡沙虎骗开了城门，用计杀死了守城的左副元帅徒单南平及他的儿子刑部侍郎没烈，并把他们所属部队收归己有。接着，他率兵包围皇宫，到了东华门，只见大门紧闭。胡沙虎命人叫门，守门亲军首领冬儿与蒲察六斤，情知有变，不肯开门。胡沙虎立即命军士火烧东华门。军士们搬来木柴，堆积在门楼下，点上火，霎时烈火腾空，东华门变成了一片火海。守门军士纷纷逃跑。胡沙虎又命人搬来云梯，命令亲随护卫斜烈乞儿、春山二人率军从云梯上翻进宫城中，砸开大锁，打开东华门。胡沙虎一拥而入，解散了禁卫军，全部换上了自己的亲兵。这时候，胡沙虎自称监国大元帅，要求礼部令史张好礼为他铸造一颗监国元帅的大印。张好礼说：“非法铸印，实难从命，要杀要剐，将军请便。”胡沙虎拿张好礼没有办法，只好将他赶了出去。

第二天一早，胡沙虎就派亲兵把完颜永济赶出宫门，押送到卫绍王府软禁起来了。然后，胡沙虎立即派黄门官到内宫去取皇帝的玉玺。黄门官到存放玉玺的房内一看，只见护玺的郑夫人正坐在玉玺旁边。黄门官向郑夫人说明了来意，郑夫人义正辞严，痛骂了一顿。黄门官赶忙向胡沙虎报告，胡沙虎亲自来到郑夫人身边，郑夫人冷眼看了他一眼，闭上眼睛，端坐不动。胡沙虎恼羞成怒，上前去抢。郑夫人猛然站起，双手高举玉玺，厉声说：“住手！如果你再往前走一步，我就把玉玺砸碎，让你什么也得不到！”胡沙虎被郑夫人的举动惊住了，再也不敢往前走了。最后，胡沙虎命人在宫中搜出了另一颗刻有“宣命之宝”的金印，假传皇帝圣旨，把他的几十个同党全部封了高官。接着，胡沙虎派宦官李思中到卫绍王府，杀死了完颜永济。 

完颜永济死后，胡沙虎就打算登基做皇帝了。时尚书右丞相徒单镒劝道：“金国的皇帝历来都是完颜氏，现在你杀了皇帝，要取而代之，天下的人会愿意吗？如果天下的人都来反对你，你的皇帝能当长吗？”胡沙虎听从了徒单镒的意见，派人把完颜珣迎回朝廷，拥立为皇帝，史称金宣宗。因胡沙虎拥立有功，被封为太师、尚书令、都元帅，监修国史，封泽王，授中都路和鲁忽土世袭猛安。  

元帅右监军术虎高琪屡战不利，胡沙虎警告他说：“你连吃败仗，如再战不胜，当以军法从事。”再出战果然又败。术虎高琪害怕被杀。十月十五日，术虎高琪带军队入京，进而包围了胡沙虎的家，杀了胡沙虎，提着他的首级到朝廷请罪。金宣宗赦免了他，并任命他为左副元帅，一起的将士都各有封赏不等。