徐家本为吴郡豪族，与同郡的孙家有密切交流往来情谊，生父徐真，与孙坚相互亲善，坚以妹许配给徐真，生下徐琨 。

年少时仕任州郡役所吏职，汉末扰乱，辞去吏职加入孙坚军成为部曲，跟随孙坚征伐董卓军有功，以战功拜偏将军。

孙坚薨后，追随起兵自立的孙策。与孙策领兵攻讨扬州刺史刘繇的部将樊能、于糜等于横江，击张英于当利口。当时军船少，欲驻军更求。徐琨之母当时在军中，谓琨曰：“恐州家多发水军来逆人，则不利矣，如何可驻邪？宜伐芦苇以为泭，佐船渡军。”，徐母建议采取奇袭作战，徐琨将这番话告诉孙策，孙策即实行之。众悉俱济，遂破张英，击走笮融、刘繇，占领丹阳郡，为孙策的江东事业奠定基础。

袁术任命族弟袁胤为丹阳太守，并且接收丹阳郡，孙策派遣徐琨将袁胤驱离丹阳。

孙策以优异战功上表徐琨领丹阳郡太守，适逢吴景刚从广陵，脱离袁术来到江东归附，因郡民较为亲附吴景，令吴景复任为丹阳太守，改让徐琨以督军中郎将职位领兵。

领军征伐在庐江起兵反叛的庐江太守．李术，击破皖城，累功封爵广德侯，迁平虏将军。

从军征讨黄祖作战时，中流矢不治而亡。