清光绪十七年（1891年）出生于江苏江阴城内清贫的知识分子家庭，自幼聪慧过人，6岁能作对联、咏诗。

清光绪三十三年（1907年）考入常州府中学堂，成绩优异。

清宣统三年1911年应聘回母校翰墨林小学任教，并与吴研因等编辑《江阴杂志》。辛亥革命中，赴清江参加革命军，任文牍。

民国元年（1912年）2月，因不满军队内部的混乱而返乡。同年3月，刘半农与其弟刘天华至上海谋生，在开明剧社任编辑。

民国二年（1913年）春，在中华书局任编译员。他勤奋写作，先后在《时事新报》、《小说界》等刊物发表40多篇他翻译和创作的小说，介绍安徒生、小仲马、托尔斯泰、屠格涅夫、高尔基等著名作家的作品。

民国六年（1917年），他在《新青年》上发表《我之文学改良观》等文章

1925年，刘半农获博士学位时的毕业照，对文学革命从形式到内容都提出深刻见解。同年夏，被北京大学校长蔡元培破格聘为北大预科国文教授。

民国七年（1918年）1月，参与《新青年》编辑工作。同年3月，在《新青年》发表《复王敬轩书》，对于反对文学革命、为封建旧文学辩护的观点痛加批驳。

民国九年（1920年）春，刘半农赴欧洲深造，初入英国伦敦大学院，在语音实验室工作。

民国十年（1921年）转入法国巴黎大学，并在法兰西学院听讲，攻实验语音学。

民国十四年（1925年）获法国国家文学博士学位，成为第一个获得以外国国家名义授予的最高学衔的中国人。8月，刘半农在回国的海轮上，写下诗作《教我如何不想她》。同年秋，刘半农任北京大学国文系教授，兼任北大研究所国学门导师，建立了语音乐律实验室，成为中国实验语音学奠基人。

民国二十二年（1933年）4月，与钱玄同等12人联名在报纸上发出为李大钊烈士举行公葬的募款书，并书写墓碑墓志。

民国二十三年（1934年）6月，为完成《四声新谱》、《方音字典》和《中国方言地图》的编写，冒着酷暑沿平绥铁路深入绥远、内蒙一带考察方言方音，不幸染上“回归热”病，7月14日在北平逝世，年仅44岁。