可敦城是回鹘古城，即回鹘建牙之地。

统治漠北的回鹘于840年为黠戛斯所灭，回鹘王城被焚毁。契丹征服漠北后，组卜各部落时降时叛，辽圣宗于994年（辽统和十二年）命王太妃（齐妃）领乌古等部兵往西镇抚，又于1003年筑可敦城于原回鹘王城附近，次年置镇（治可敦城）、维、防三州，调诸部族兵2万余骑及渤海、女真、汉人700余流配之家，往彼屯垦镇守；1011年（统和二十九年），置阻卜诸部节度使。辽代西北路招讨司的驻地就在可敦城。

（1131年~1211年）西辽开国皇帝德宗耶律大石从金营逃出后来到夹山与天祚皇帝汇合后，天祚帝不听大石林牙（耶律大石）的劝诫，一意孤行企图收复失地，耶律大石意识到敌强我弱，此时出击必定全军覆灭，不如北上到重镇可敦城养兵，待时机成熟，恢复大辽。

辽史记载：不论国家到了什么地步，可敦城的2万骑兵不许南下。因此，耶律大石率领两百多人，带上600多马匹向西北可敦城进发。到达可敦城之后，大石林牙得到消息，天祚帝已经被俘虏，大辽灭亡。为了延续辽祚，耶律大石打算召集各路力量，抵抗大金的攻击。这个时候大金朝与南宋之战爆发，大金完全将注意力集中在宋朝，耶律大石从可敦城出发，两度打败金朝部队。

1130年，耶律大石率军西征，次年，金军北攻可敦城，因沙漠阻挡失败。1135年金军再征可敦城，被辽军击败。耶律大石意识到这里不能久留，不如西征重建大辽，等国力强盛之时东征大金。《大金国志》记载，正隆元年（1156年）北征曷董城,林牙之子乌律游骑数百出于军前，说明此时可敦城仍为西辽所有。但此后可敦城为金军夺取。由于克烈部迁入这一地区，蒙古乞颜部在东部对金国构成新的威胁，金国最终放弃这一地区，并将可敦城摧毁。