1903年6月23日，出生于河南荥阳。张伯声的祖父半农半商。父辈兄弟五人，除三叔随祖父经商外，其余都以教师为业，兼事农耕。父亲张铭宸，为河南省议员，南阳中学监督；母亲杨氏，终生为农。张伯声为长子，有两个弟弟。他幼年就学于农村，经常参与农事，深知农民疾苦，受当时新思潮影响，决心学好西方科学技术，为民众服务。 

1913年，进荥阳县城高小学习，喜爱自然地理。 

1917年考取开封留学欧美预备学校。同年进北京清华学校学习。 

1917年，14岁时考入河南留学欧美预备学校 （现河南大学）二次英文科，他在这里学习两年，一贯刻苦用功，英语教师吴忆鲁赞扬他的求学精神“堪为楷模”。

1919年，他被学校破格选送清华学校深造。

1926年被保送赴美留学。先在威斯康辛大学化学系学习，后又转入芝加哥大学。 

1928年获化学学士学位后，又考入芝加哥大学地质研究部。随后又转入斯坦福大学地质系研究部，在地层古生物学方面得以深造。1930年回国。同年，到焦作工学院任地质学教授。 

1929年，张伯声转入斯坦佛大学地质系研究部，受到地质学家维里斯教授、布莱克卫尔德教授的精心指导和亲切教诲，学业大有长进。

1930年5月，张伯声因家事被迫中断学业回国。

1930年，被聘为焦作工学院（现中国矿业大学，河南理工大学） 地质、岩矿学教授。

1931年，被聘为交通大学唐山工学院（现西南交通大学）教授。

1932年，被母校河南大学聘为理学院教授，讲授普通地质学、构造地质学、矿物学和岩石学等课程。他在母校任教时间仅1年，但他教学认真、重视实践的科学态度却给师生留下了十分深刻的印象。

1933年，张伯声被聘为天津北洋工学院教授。

1933年任河南大学教授。1936年任北洋工学院教授。 

1937年，“七·七”抗战爆发后，他跟随北洋工学院内迁西安，到由平、津各大学联合组成的西安临时大学任教。

1938年，被聘为西北大学教授，次年兼任西北大学地质系主任。

1939年，任国立西北工学院【1938.07国立西北联合大学工学院、焦作工学院（现中国矿业大学）、东北大学工学院合并组成 】教授。

1942年，他参加民主党派“九三学社”，对蒋介石“攘外必先安内”的不抵抗政策深恶痛绝。

1949年，新中国诞生后，他被政务院任命为西北大学理学院院长。

1950年，张伯声参加豫西地质矿产考察时，他在中岳嵩山南麓的嵩阳书院下面小沟中，发现深变质的太古代杂岩和元古代古英岩之间存在着明显的角度不整合接触面，遂进行了认真观察描述，并把该不整合面所代表的地壳运动命名为“嵩阳运动”。他还测制了剖面，将“嵩阳运动”界面以下地层称为“登封杂岩”，以上地层又分为“嵩山石英岩”和“五指岭片岩”。“嵩阳运动”、“登封群”、“嵩山群”、“五指岭组”等名称一直为地质界所沿用。尤其值得指出的是，“嵩阳运动”界面是在中国太古代和元古代地层间首次发现并报道的不整合界面。

1956年，任西北大学副校长，并光荣参加中国共产党，实现了多年来的心愿。

1956年，他调查了黄河流域许多盆地，发觉各盆地均有一个黄土分布地最高线，命名“黄土线”，提出了“黄土线”的概念及对黄河河道发育历史的新看法，发现并论述了大量的“一边翘起、一边俯倾”的块断运动，为黄土水成说提供了一个有力地佐证，并研究了这种块断运动与水系发展的辩证关系和在水义地质、工程地质上的意义。提出了相邻地块的天平式运动，将镶嵌构造优先推进到地壳镶嵌构造与波浪运动学说。

1961年，张伯声教授因过度劳累，身患高血压病，西北大学为照顾他的身体健康，决定他从事科学研究和培养研究生工作，但他仍然以高昂的热情在指导研究生和科学研究方面做出了新的令人瞩目的成就。“文化大革命”运动开始后，年过花甲的张伯声教授竟亦不能幸免，他被诬为“资产阶级反动学术权威”关进“牛棚”，多次遭到无情的批判斗争，有一段，每月只能领到24元的生活费。面对这种极不公正的待遇，他没有气馁，而是继续关心西北大学地质系的教学工作和自己规定的科学研究任务，不顾年老体弱和种种议论经常跟随师生到野外进行教学实践。林彪、“四人帮”两个反党集团垮台后，年逾古稀的张伯声教授精神焕发，更加积极地投身地质科研事业。又经过两年的辛勤实践、理论升华，他终于创建了中国大地构造的一个新学派——“地壳波浪状镶嵌构造学说”。

1994年4月4日下午5时，在西安逝世，享年91岁。

1992年元月，欣然为母校河南大学题辞。