1901年出生于海南文昌县（今文昌市）东阁镇玉山村。从小就很聪明，8岁被送进私塾读书，学习成绩很好，因而2次跳级，13岁在东阁墟小学毕业。勤敏好学，敢作敢为，常因指出老师长辈之错而受到责备。

1921年，他被长兄许声鸿带到马来亚谋生。白天为资本家做工，夜间到夜校读书，1923年离开马来亚回国。在朋友的帮助下，进入暨南大学读书。经常利用课余时间，阅读各种进步书刊，如《共产党宣言》、《列宁传》、《新青年》等，开始接触马列主义。1924年，随暨南大学迁到上海，继续在暨南大学社会科学系就读。在学校里，许侠夫参加了由琼崖留沪进步青年组织的“琼崖留沪新青年社”，积极参加社会活动，出版《琼崖新青年》(半月刊)杂志，宣传革命思想。

1925年秋，他加入中国共产党。同年5月30日，参加上海学生在英租界内进行的反帝斗争，也就是震惊全国的“五卅运动”。1926年，受党组织的派遣，回琼崖参加党的领导工作。同年6月，在中共琼崖第一次代表大会上当选为地委委员兼宣传部长，随后以广东省立第六师范学校(今琼台师范高等专科学校)教员身份，在师生中积极宣传马列主义和革命思想，积极开展学生运动：一是办好党的刊物，在《路灯》、《扫把》、《现代青年》等刊物上，撰写了很多文章，向广大群众和青年学生灌输马克思主义思想，召号青年学生参加革命斗争。二是在学校中秘密发展党团组织，把进步教师和学生吸收到共产党、共青团组织中来，壮大骨干力量。三是在学校开展择师运动。当时校内思想顽固的教师陆达节将许侠夫视为眼中钉，对他领导的革命活动，暗中进行破坏。许侠夫早已看透了对方的阴谋，便组织了坚强的领导核心——中共广东六师支部，动员了广大教师学生，开展了声势浩大的择师运动，把顽固不化的教师赶出校园。四是深入城镇、农村，向工人农民宣传革命道理，组织工会和农民协会，发动广大人民群众参加革命斗争。

1927年4月22日，蒋介石在上海发动反革命政变。同日，琼崖以黄镇球、叶肇为首的“琼崖清党委员会”，在海口、府城对共产党人和革命群众进行疯狂的血腥屠杀。在群众掩护下，许侠夫同罗文淹一起潜回文昌农村，以特派员的身份领导文昌的工作。在家乡文昌，他首先在东阁、文教一带恢复和发展党的组织，健全党的领导。东阁、文教、宝芳、头苑、昌洒、水北、抱罗、抱锦、公坡等乡的党组织很快得到恢复与发展。

1927年6月，许侠夫当选为琼崖特委委员。同月根据琼崖特委的指示，在溪西村(现文教镇)召开文昌县第一次党代会，成立了中共文昌县委，许侠夫担任县委书记。紧接着在全县范围内，逐渐恢复和建立起农民协会、妇女协会、青年团和劳动童子团等群众团体。根据琼崖特委的指示，县委决定建立革命武装组织，以反对反革命武装，在农民自卫军的基础上，成立了有100多人的文昌讨逆革命军(7月改为琼崖讨逆革命军第五路军)。由谭明新任指挥，许侠夫为党代表。