张广泗少年时期以监生的身份被授为知府。康熙六十一年(1722年)，前去贵州思州为官。雍正四年(1726年)，又调往云南楚雄为官。当时云贵总督鄂尔泰讨伐作乱的苗族村寨，就用张广泗来辅佐他，并且上奏要将其改调黎平。雍正五年(1727年)，张广泗被提升为贵州按察使。雍正六年(1728年)，张广泗率兵赴都匀、黎平、镇远、清平等地驯服各个苗族部落，并根据不同的情况剿抚并用，之后被授为巡抚。 当时各个苗族村寨中，就属清平丹江的苗人最剽悍，张广泗派遣军队分道攻克小丹江、大丹江以及鸡沟等寨。属镇远管辖的上九股诸寨与丹江的苗人村寨接壤，也紧接着一个个被降服。下九股、清水江、古州的诸个苗寨全部被平定。向雍正帝上书报捷之后，雍正帝命张广泗与鄂尔泰纤细地议论一下善后的各个事务。 雍正十年(1732年)，张广泗上疏雍正帝说：“清水江和都江连贯贵州、湖北、广东三个省，应当设置哨船联络声势。古州应该贮藏积粮，应该责成同知以下的人前去办理。还应当去教化当地的苗民。”雍正帝采取了他的建议并派人去办理。张广泗因功被授为世代承袭的喇布勒哈番。

平定西北雍正十年(1732年)十月，准噶尔部骚扰清朝的边境，宁远大将军岳钟琪率领大军出西路。雍正帝任命张广泗为副将军，下诏他进京并授给他用兵方略。张广泗到达军队之后，岳钟琪刚刚从巴尔广尔调军前去穆垒。张广泗率领四千人从鄂隆吉出动，与岳钟琪在科舍图合军一处，到达穆垒。 雍正帝召岳钟琪还京，并且命张广泗守护大将军印。张广泗上书弹劾岳钟琪说：“穆垒地处两山之间，在两座山之间筑城，就像在锅底筑城一样，这不是屯兵出战的理想地点。如今筑城尚未完成，臣与副将军常赉两营的人马处于要冲之地，只有两三百兵马，即使是将军岳钟琪的大营也仅仅有数百人，如果遇到准噶尔部人马的袭击将何以抵挡?准噶尔只用骑兵，我们的兵马一定要骑兵步兵兼用，而岳钟琪决意要用兵车，西北多沙地，用兵车不是一个明智的选择。而且军中除了马步兵的弓箭、鸟枪之外，其余的人仅仅持有木梃，兵器非常缺乏，官兵没有不议论这件事的。况且穆垒又没有合适的牧地，岳钟琪留下战马二千余匹，全部就牧于乌兰乌苏、科舍图两地，准噶尔正在窥测我们的战马。我军在西北驻兵数万人，粮草是最重要的。西北多丛山大岭，车驼运输粮草，一定要绕过沙地。岳钟琪听说敌人来了之后马上命令停止运输，使得军中粮草供给不足。

并且岳钟琪刚愎自用，号令不明。” 雍正帝听了即刻夺了岳钟琪的官位，命张广泗还军巴尔库尔。张广泗立刻率军回到了巴尔库尔，分兵驻防洮赉、无克克岭等地，切断敌军向南的通道;派军防守廋集察罕、哈马尔，切断西面敌人前来的通道。巴尔库尔以北是镜儿泉、噶顺、乌卜图克勒克等地，东北是图古里克、特尔库勒等地，敌军从沙漠而来，各个方向都可以杀到这里，所以张广泗在各地都派兵守卫。其他的各个重要关隘也一并设置了卡伦，并加强对牧场的防护，哈密、塔勒纳沁也全部增兵防备。很快朝廷就以查郎阿为大将军，张广泗被授为正红旗汉军都统，仍然留在军中效力。 雍正十一年(1733年)，张广泗率领万余人分驻北山。雍正十二年(1734年)，清军侦察到敌军已经到了乌尔图河，张广泗下令副都统班第达什、总兵张元佐及提督樊廷前去截击，大军越过噶顺到达鄂隆吉，击败了前来进犯的敌军，斩杀准噶尔四百余人，俘获了三十六人。雍正帝听闻捷报之后下令对其进行议功封赏。雍正十三年(1735年)，准噶尔部乞和，张广泗从西北班师回京，被授为湖广总督。