刘曜年幼丧父,于是由
刘渊抚养。年幼聪慧,有非凡气度。八岁时随刘渊到西山狩猎,其间因天雨而在一棵树下避雨,突然一下雷电令该树震动,旁边的人都吓得跌倒,但刘曜却神色自若,因而得到刘渊欣赏。刘曜喜欢读书,但志在广泛涉猎而非精读文句,尤其喜爱兵书,大致都熟读。亦擅长写作和书法,习于
草书和
隶书。另一方面刘曜亦雄健威武,箭术娴熟,能一箭射穿寸余厚的铁板,号称神射。刘曜亦时常自比
乐毅、
萧何和
曹参,当时人们都不认同,唯
刘聪知道其才能。
二十岁时,到洛阳游历,期间被定罪而要被诛杀,于是逃亡朝鲜,后来遇到朝廷
大赦才回来。刘曜亦觉得自己外表异于常人,怕不被世人所接纳,于是在
管涔山隐居。
西晋
永兴元年( 304年),刘渊初建汉国时,刘曜已崭露头角,为前汉国建威将军,率兵相继攻克
泫氏(今山西省高平县)、
屯留(今山西省
长子县)、中都(治所在今山西省平遥县西南),为前汉国在并州的发展奠定了坚实的基础。