其曾祖父为前赵楼烦公，前赵败后族人迁居塞外，至其父刘卫辰时重返塞内，被苻坚任为西单于。淝水之战后刘卫辰拥兵三万，后败于北魏被杀。赫连勃勃投奔叱干部，被转送北魏途中获救，投奔后秦姚兴。
赫连勃勃仪表出众，能言善辩。姚兴授其骁骑将军，常参议军政要务，恩宠逾旧臣。姚兴弟姚邕谏言勃勃不可亲信，姚兴赞其有济世之才。姚兴欲用赫连勃勃助镇高平，姚邕谏其残暴无常，兴始存戒心。后勃勃杀没奕于自立，拥兵自重。
三年后勃勃称天王，制定游击战术：避秦军主力，以运动战消耗其兵力，待姚兴死后图长安。预计十年内可据岭北、河东。赫连勃勃以游击战术侵扰后秦，姚兴懊悔。
赫连勃勃求婚秃发傉檀遭拒，率两万骑劫掠其部。秃发傉檀追击中伏，损失惨重，赫连勃勃斩其十将，战场遂称髑髅台。
赫连勃勃屡袭后秦边境，姚兴亲征讨伐。赫连勃勃趁其大军未集，率骑突袭。姚兴遣姚文宗迎战，中伏被擒。部将王奚据守堡，赫连勃勃断其水源迫降。王奚拒降自刎。
赫连勃勃屡败姚兴军。
赫连勃勃命叱干阿利督建统万城宣称：“为统御万邦筑此都城“。土城依地势而筑，具石城抗毁性。叱干阿利善工事而性残暴。赫连勃勃令工匠蒸土筑城，若利器刺入一寸即杀工匠筑入墙中，并委任叱干阿利督造。其命工匠打造精良武器，以箭试甲，射穿则杀制甲者，不穿则杀制弓者，为此诛杀数千匠人。
姚泓继位后，赫连勃勃趁其部将内乱率军攻破上邽，斩敌毁城。继而攻陷阴密斩杀秦军，姚恢弃安定逃亡。安定士绅率众归降，赫连勃勃整军经武，占据安定后岭北诸城皆降，遂统岭北之地。
东晋刘裕灭后秦入长安，遣使与赫连勃勃修好。赫连勃勃命人当使面代笔回信，令刘裕自叹不如。后赫连勃勃回统万城，刘裕仅留子守长安。王买德献策：刘裕平乱未施德政，关中险要留庸子镇守，其急归为篡位，无意中原。陛下顺天伐逆必得民心。赫连勃勃遂率军攻长安，至渭阳时关中降者如云，入咸阳后长安响应。进驻长安，赫连勃勃举杯赞王买德。克定长安仰仗祖先保佑与你的谋划。
赫连勃勃在臣僚劝进下称帝，群臣请迁都长安，赫连勃勃以统万城更利防魏拒之。
勃勃在长安召隐士韦祖思，韦因畏惧礼数过恭。勃勃怒斥：“我以国士待汝，何故异之？昔不拜姚兴，今拜我！若吾死，尔等必诋我“遂杀之。
赫连勃勃返统万城，常携弓
…。。