刘伯坚，原名永福，祖籍江西，1895年在四川巴中县(今平昌县)出生。刘伯坚家里是一个开栈房的小商业者家庭。他聪明好学，童年时就读于金斗寨高等小学，后来靠家中借贷到巴中县上中学。后又考入万县的川东师范、成都的高等师范学堂(今四川大学的前身)。

1920年赴欧，先到比利时，后到巴黎，一边做工一边学习。当时，西欧正经受十月革命的冲击。刘伯坚在那里接受了共产主义思想。阅读了《资本论》、《共产党宣言》、《法兰西内战》和《国家与革命》等马列主义经典著作，细心研究西欧工人运动和俄国十月革命的经验。

1921年初参加由赵世炎、李立三组织的劳动学会，与周恩来、赵世炎、蔡和森、李富春等领导了以争生存、求学权为主要内容的“二八”运动和6月的“抗拒中法大借款”，9月的“占领里昂中法大学”等重大政治斗争。并在机关刊物《少年》(后改为《赤光》)上发表文章，广泛宣传马克思主义，揭露批判各种反马克思主义思潮的本质。同年，加入了周恩来、赵世炎发起组织的中国少年共产党。

1922年与周恩来、赵世炎等共同组建了“少年共产党”(后改名为旅欧共青团)，随即转为共产党员。同年，刘伯坚和熊未耕介绍聂荣臻加入旅欧中国少年共产党。1923年春，聂荣臻经刘伯坚和赵世炎介绍加入中国共产党。

1923年，刘伯坚赴莫斯科，入东方劳动者大学，并因待人和蔼及处理问题老成持重，被中国学生推为中共旅莫支部书记达三年之久。当时，这个支部不但管理中国党员学生的组织活动，还要负责工作分配和生活，被同志们称作“党内驻苏大使馆”，刘伯坚成了“大使”。

1926年春，冯玉祥因自己率领的西北军失败，到苏联“考察”并求援，刘伯坚参加接待。冯玉祥表示要学习苏军的政治工作经验，并邀请刘伯坚回国任国民联军的政治部副部长。刘伯坚到西北军后，同上层人物建立了很好的统战关系，还积极用革命思想改造这支从军阀阵营中分裂出的部队。

1927年4月，他与西安有名的才女、共产党员王叔振结婚。

1927年夏，冯玉祥受蒋介石拉拢，与共产党分手，刘伯坚也被“礼送”到武汉。随后，党中央派他再度赴苏联，入伏龙芝军事学院，与刘伯承等一同学习。

1930年，他回到上海，翌年又进入江西中央苏区，先后任军委秘书长、红军党校政治部主任。此时，蒋介石将中原大战中被他打败收编的西北军主力第二十六路军调到江西“剿共”，并由中央军在后面督战。这种“一石两鸟”的毒计激起西北军官兵极大愤慨。中央军委马上派刘伯坚主持策反工作，终于使该部1.7万人在宁都暴动，并编为红五军团;刘伯坚随后担任了该军团政治部主任，将这支部队改造成中央红军的主力之一。

1934年10月，红军主力离开江西长征，刘伯坚被留下任赣南军区政治部主任，他积极组织留守部队，在于都河多处架桥，为主力部队做好后勤保障工作，护送中央红军主力渡河长征。新中国成立后，叶剑英同志曾赋诗怀念当年刘伯坚于都河惜别之情：“红军抗日事长征，夜渡鄄都溅溅鸣。梁上伯坚来击筑，荆卿豪气渐离情。”

20万国民党军队将留下的3万红军(半数系不能远征的伤病员)压缩到赣南一隅，中央分局书记项英在几个月后才接受陈毅的建议，下令分路突围，开展游击战，可惜为时已晚。