战国时,现河州市境为罕羌侯邑,后秦国灭罕羌侯,置县,市地属之。
西汉初,建枹罕县,属陇西郡。昭帝始元六年(前81),枹罕县改属金城郡。市地为县辖。
东汉建武十二年(36),撤金城郡,枹罕县又改属陇西郡。中平元年(184)十一月,枹罕宋建割据自立,建元置百宫,号”河首平汉王“。建安十九年(214),曹操将夏侯渊讨灭宋建。
三国时,市境属魏枹罕县,初辖于秦州陇西郡。惠帝时,市地属枹罕护军。黄初年间枹罕县属雍州陇西郡。
西晋永年中(301-302),枹罕县属晋兴郡市地属之。十六国时,前凉张骏太元二十一年(344),分凉州地置河州,河州之名自此始。枹罕属河州兴晋郡,州、郡均治枹罕。县治设于今临夏市境。
前秦建元三年(367),枹罕属前秦凉州,州治枹罕;建元七年(371),枹罕属河州兴晋郡,州、郡增治于枹罕。西秦太初二年(389)枹罕属乾归分设之北河州、北河州,仍治枹罕。后秦弘始二年(400),姚兴攻西秦取枹罕,属河州,州治枹罕,仍归乞伏氏统辖。西秦更始九年(409),乾归复夺地兴国。西秦炽磐永康元年(412)十月乞伏炽磐自谭郊迁都于枹罕。乞伏暮末永弘四年(431),被夏攻灭,西秦亡,地归吐谷浑。 北魏太平真君六年(445),改河州为枹罕镇。北魏太和十六年(492),撤镇复置河州。市境属之。
西魏复置枹罕县,属河州枹罕郡,州、均治枹罕。
北周如西魏制,枹罕县仍旧。 唐武德元年(618),平李轨复置河州,辖枹罕县,治所枹罕。天保元年(742),改河州为安乡郡,辖枹罕县。
宝应元年(762)福柑为吐蕃占领。
大中五年(公元851年),张议潮击吐蕃,占据河西、陇右诸州。 吐蕃将领尚延心以河州、渭州投降于唐朝。 北宋初,吐蕃王族后裔唃厮啰之孙木征据河州。熙宁六年(1073),王韶率宋军收复河州,置枹罕县,属熙河路。在州西一十五里置阎精堡(今枹罕拜家庄古城址)。熙宁九年(1076)省枹罕县,县地属河州安乡县。州治迁宁河。南宋初因之。
金天会九年(1131),金取河州。皇统二年(1142),州治枹罕,属熙秦路总管府。贞元二年(1154)复置枹罕县于河州治。金大定二十七年(1187)枹罕县属临洮路。 1953年6月14日,甘肃省政府决定临夏市为省辖市,委托临夏专员公署领导监督。
1956年11月19日,临夏回族自治州成立,辖临夏市。州府驻临夏市。
1958年12月20日,国务院决定,撤销临夏县、永靖县建制,将两县区域划归临夏市。
1961年12月15日,恢复临夏、永靖县建制。后临夏市辖12个公社及城关镇。
1973年12月15日,甘肃省革委会通知,执行国务院1964年6月5日‘撤销临夏市,将行政区域划归临夏县,县址设在韩家集镇’的决定,撤市并县,但县址由韩家集改迁临夏市。
1983年8月31日,国务院批复恢复临夏市建制(县级),以原临夏县的城关镇及城关、折桥、枹罕、南龙四个乡为临夏市的行政辖区。县政府移至韩家集
1949年8月22日临夏解放。1949年设临夏专区,专署驻临夏县。辖临夏(驻韩家集)、和政、夏河、宁定、永靖(驻莲花城)、康乐(驻辛集)、洮沙、临洮等8县。
1950年由临夏县城区设临夏市,专署驻临夏市。撤销洮沙县,并入临洮县。将临洮县划归定西专区。1950年9月25日由临夏、和政、宁定、永靖4县部分地区设立东乡自治区(驻锁南坝)。原岷县专区所属临潭县划入临夏专区。辖1市、6县、1自治区。
1952年临潭县驻地迁至旧城。
1953年临夏市改为省辖市。宁定县改设广通回族自治区,将临潭县划归甘南藏族自治州;东乡自治区改为东乡族自治区。临夏专区辖5县、2自治区。
1955年广通回族自治区改设广通回族自治县。东乡族自治区改设东乡族自治县。临夏专区辖4县、2自治县。
1956年撤销临夏专区,设立临夏回族自治州,自治州人民委员会驻临夏市。将临夏市和临夏、和政、永靖、康乐4县及东乡族自治县、广通回族自治县划归临夏回族自治州;广通回族自治县改设为广通县。辖1市、5县、1自治县。11月19日,临夏回族自治州成立。
1957年广通县改名为广河县。
1958年撤销永靖、临夏2县,并入临夏市;撤销广河、康乐2县,并入和政县。临夏回族自治州辖1市、1县、1自治县。
1961年恢复临夏(驻韩家集)、康乐、永靖(驻莲花城)、广河(驻太子寺)4县。辖1市、5县、1自治县。
1962年永靖县由莲花城迁驻小川。
1973年撤销临夏市,并入临夏县。临夏回族自治州政府驻临夏县。临夏县驻地由韩家集迁城关。临夏回族自治州辖临夏、永靖(驻小川)、和政、康乐、广河(驻太子寺)5县及东乡族自治县(驻锁南坝)。
1983年,恢复临夏市(县级),以临夏县的城关镇和城关、南龙、折桥、枹罕4个公社为临夏市行政区域。临夏县人民政府驻地迁至韩家集。