明为罕东卫辖地,后为蒙古诸部辖地,清属青海蒙古北左旗、北右旗辖地,民国时属都兰县。1955年从都兰县析置德令哈工委,1958年撤销工委设立德令哈县(驻巴音河),1962年撤县后并入乌兰县。1988年从乌兰县析置德令哈市。
1988年4月19日,民政部批准(民[1988]行批1号)设立德令哈市(县级),以德令哈镇和乌兰县的怀他头拉、戈壁、郭里木、宗务隆、畜集五个乡为德令哈市的行政区域。
2005年,德令哈市调整乡镇行政区划:1、撤销戈壁乡,设立并命名为柯鲁柯镇,镇政府驻地迁移至原德令哈农场场部所在地浩门都谷。将尕海镇的民兴、民乐、平原三个村划归柯鲁柯镇管辖,实行镇管村体制。2、撤销宗务隆乡。将原宗务隆乡的白水河村、巴音河东村、巴音河西村、巴音河中村、甘南村划归河西街道办事处;将原宗务隆乡的东山村划归河东街道办事处;将原宗务隆乡的红光村划归火车站街道办事处;将原宗务隆乡的伊克拉、乌察汗、陶斯图三个村划归蓄集乡管辖。