道武帝
拓跋珪在位初年,楼伏连跟随道武帝打败贺兰部。又跟随道武帝平定中山,担任中山太守。天兴五年(402年),僧人
张翘自称无上王,与丁零人鲜于次保在常山郡的行唐聚积党羽。同年四月,楼伏连率军征讨张翘,并将其斩杀。八月,楼伏连随军到柴壁征讨后秦义阳公
姚平,因功赐封爵位为安邑侯。
明元帝
拓跋嗣在位时,楼伏连担任晋兵将军、并州刺史。神瑞元年(414年),楼伏连招抚西河胡人曹成等七十多人,袭杀
赫连勃勃的吐京护军及其守兵三百多人,并擒获反叛的胡人阿度支等二百多家。明元帝嘉许楼伏连,任命曹成等为将军,赐封爵位为列侯。征召楼伏连入朝担任内都大官。
太武帝
拓跋焘继位后,楼伏连进封爵位为广陵公,改任卫尉,升任光禄勋。神麚二年(429年),太武帝征讨柔然,命楼伏连留守京师。太延元年(435年)五月初五日,楼伏连进封爵位为广陵王,仍然担任原来的官职。后历任平南大将军、假节、督黄河以西诸军事、镇西大将军,外出镇守统万。