1915年由讷河县析置，始建时因县衙置于二克山（喀尔喀勒图山、克尔克图山）(今克东县城)得名；蒙古语哈勒噶图，有门之谓也；据《中国地名辞源》：两峰对峙，状若城阙，争先超卓，相互克忌，故名。