刘库仁年轻时豪侠爽快，有智慧谋略。其母拓跋氏是平文帝拓跋郁律">拓跋郁律之女，昭成帝拓跋什翼犍的姐妹。拓跋什翼犍将本族的女子嫁给刘库仁，让他担任南部大人。 

太元元年（376年）十一月，前秦攻打代国，拓跋什翼犍派遣白部、独孤部在南面抵御前秦军队，都没有取胜。拓跋什翼犍又派遣刘库仁统领十万骑兵前去抵御秦军。刘库仁与秦军在石子岭交战，刘库仁大败。 当时，拓跋什翼犍患病，不能亲自带兵上阵，于是率领众部族逃奔到阴山以北。 

太元二年（377年），拓跋什翼犍被其子拓跋寔君所杀，前秦趁机吞并代国，前秦天王苻坚任命刘库仁为陵江将军，封为关内侯，命令他和刘卫辰分割代国部众统领。自黄河以西地区属于刘卫辰，自黄河以东地区属于刘库仁。当时，拓跋什翼犍之子拓跋寔的妻子献明皇后贺氏携带拓跋珪等三子从贺兰部前来居住。刘库仁竭尽忠心得侍奉，不以废兴改变节操，安抚接纳流离散失的人，恩惠信义十分著名。 

后来，苻坚又升任刘库仁为广武将军，赐给旌旗、鼓鼙、伞盖一类仪仗，礼仪和诸侯相等。苻坚将刘卫辰地位列在刘库仁的下面。刘卫辰发怒，杀死苻坚的五原太守而反叛，攻打刘库仁的西部地区。刘库仁又讨伐刘卫辰，将其打败，追击刘卫辰到阴山西北一千多里，擒获他的妻子儿女，全部收集他的部众。刘库仁向西征伐库狄部，缴获大量牲畜，迁徙他们的部落，安置在桑乾川。苻坚将公孙氏赐给刘库仁为妻，以大量财物相赠。刘库仁又前往苻坚那里，苻坚加授刘库仁为振威将军。 

太元八年（383年），后燕皇帝慕容垂在邺城包围苻丕，又派遣将领平规到蓟城攻打前秦的幽州刺史王永，刘库仁自认为受到苻坚的爵位任命，派遣妻子的哥哥公孙希率领骑兵三千人，协助王永攻打平规，将他打得大败，活埋平规投降的兵士五千多人。乘胜长驱直入，占据唐城，和慕容垂的儿子慕容麟相对峙。刘库仁听说公孙希打败平规，又将要大举出兵去救助苻丕。征发雁门、上谷、代郡的兵士，驻扎在繁畤。在这之前，慕容文等人将迁往长安，逃跑依附到刘库仁部落，时常思念回到东方，没有办法实现。到这次战役，知道人心不乐意，慕容文等人就在夜晚率领三个郡的人，攻打刘库仁。刘库仁藏匿在马圈里，慕容文擒获后将他杀死。慕容文骑马投奔慕容垂。公孙希听到变乱，从唐城逃到丁零。