别号志澄，祖籍广东澄海岐山沟南。1888年生于广州高第街，8岁丧父，家道中落； 

1900年到湖北武昌寄养在姑丈家，进一所教会学校念书；

1905年，考取官费留学日本，就读于日本第七高等学校；

1911年，经宋教仁介绍加入同盟会，随后回国参加辛亥革命；

1912年，返回日本继续学习，从日本第七高等学校毕业后，进入日本帝国大学文学部，大学本科毕业后又进研究院；

1917年，发表《再批判蔡孑民先生在信教自由会演说之订正文并质问蔡先生》，成为第一个介绍爱因斯坦狭义相对论的中国学者；

1922年，应孙中山之邀回广州，出住广州市教育局长；

1922年9月，廖仲恺赴日本与苏联代表进行秘密会谈，约许崇清同行。同年10月24日，许崇清和廖六薇(廖仲恺的侄女)在东京结婚；

1923年，许崇清由廖仲恺介绍加入国民党，孙中山指派他为国民党临时中央执行委员会执行委员，参加了改组计划草拟工作。他也是1924年《中国国民党第一次全国代表大会宣言》中的教育部分的起草人之一；

1923—1927年，出任广东教育厅长；期间出任仲恺农工学校（现仲恺农业工程学院）董事会主席。

1931年，第一次出任中山大学校长；

1934年，发表《孝经新诂教本审查意见书》，反对陈济棠强制各级学校讲授《孝经》，被解除教育厅长；

1937年，再次出任广东教育厅长；

1940年，出任中山大学代校长，主持将中山大学迁回广东；

1948年，发表《人类底实践与教育底由来》；

1949年11月，回到解放后的广州，任广州市人民政府委员，随即受广州军事管制委员会指派，接管私立广州大学，并担任该校校长；

新中国建立后，他当选第一至第三届全国人民代表大会代表，

1951年，许崇清第三次出任中大校长，并先后担任全国政协常务委员、广州市人民政府委员、中南军政委员会委员、广东省副省长。

1957年，发表《人的全面发展的教育任务》；

1963年，任广东省副省长；

1969年3月14日在广州逝世。