大興安嶺地區(qū)行政公署轄2個縣1個市4個區(qū)、29個鎮(zhèn)、10個鄉(xiāng)、4個街道。

呼瑪縣轄2個鎮(zhèn)、6個鄉(xiāng)，即呼瑪鎮(zhèn)、韓家園鎮(zhèn)；興華鄉(xiāng)、北疆鄉(xiāng)、白銀納鄂倫春族鄉(xiāng)、鷗浦鄉(xiāng)、金山鄉(xiāng)、三卡鄉(xiāng)。

塔河縣轄5個鎮(zhèn)、2個鄉(xiāng)，即塔河鎮(zhèn)、盤古鎮(zhèn)、瓦拉干鎮(zhèn)、古驛鎮(zhèn)、開庫康鎮(zhèn)；依西肯鄉(xiāng)、十八站鄂倫春族鄉(xiāng)。

漠河市（2018年2月由縣變市）轄6個鎮(zhèn)，即西林吉鎮(zhèn)、興安鎮(zhèn)、圖強鎮(zhèn)、阿木爾鎮(zhèn)、北極鎮(zhèn)、古蓮鎮(zhèn)。

加格達奇區(qū)轄2個鄉(xiāng)、2個鎮(zhèn)、4個街道，即加北鄉(xiāng)、白樺鄉(xiāng)；東山鎮(zhèn)、長虹鎮(zhèn)；衛(wèi)東街道辦事處、紅旗街道辦事處、曙光街道辦事處、光明街道辦事處。

松嶺區(qū)轄3個鎮(zhèn)，即小揚氣鎮(zhèn)、古源鎮(zhèn)、勁松鎮(zhèn)。

新林區(qū)轄7個鎮(zhèn)，即新林鎮(zhèn)、翠崗鎮(zhèn)、塔源鎮(zhèn)、碧洲鎮(zhèn)、宏圖鎮(zhèn)、大烏蘇鎮(zhèn)、塔爾根鎮(zhèn)。

呼中區(qū)轄4個鎮(zhèn)，即呼中鎮(zhèn)、碧水鎮(zhèn)、呼源鎮(zhèn)、宏偉鎮(zhèn)。

先秦時期，為東胡部落活動區(qū)域。

兩漢和兩晉時期，為鮮卑拓跋部活動區(qū)域。

北魏時期，嶺南為烏洛侯地，嶺北為室韋地。

唐代，為室韋督都府屬地，受平盧節(jié)度使管轄。

遼代，為東京道室韋王府轄區(qū)。嶺南和嶺西歸烏古敵烈統(tǒng)軍司，嶺北歸東北路統(tǒng)軍司。

金代，屬蒲與路，歸東北路招討司。

元代，1214年，屬成吉思汗幼弟帖木哥·斡赤斤封地。1235年（蒙古窩闊臺七年），實行行省制后，歸遼陽行省開元路管轄。

明代，屬奴兒干都司管轄。今漠河縣歸木河衛(wèi)管轄，塔河縣歸塔哈衛(wèi)管轄，呼瑪縣和新林區(qū)歸額克衛(wèi)管轄，加格達奇區(qū)、松嶺區(qū)和呼中區(qū)歸木里吉衛(wèi)管轄。

1645年（清順治二年），歸盛京駐防內大臣（1646年改稱昂邦章京）管轄。

1653年（清順治十年），歸寧古塔昂邦章京管轄。

1669年（清康熙八年），境內鄂倫春族、達斡爾族、鄂溫克族直屬清廷理藩院。

1683年（清康熙二十二年），為黑龍江將軍衙門屬地，嶺南歸墨爾根副都統(tǒng)管轄，嶺北歸璦琿副都統(tǒng)管轄。

1689年（清康熙二十八年），達斡爾、鄂溫克和鄂倫春族人歸布特哈總管衙門管理。

1871年（清同治十年），清廷將鄂倫春族人按住地分編為五路設協(xié)領。今大興安嶺阿里河流域為阿力路協(xié)領管轄，呼瑪河流域為庫瑪爾路協(xié)領管轄，多布庫爾河流域為多布庫爾路協(xié)領管轄。

1882年（清光緒八年），由黑龍江將軍興安城總管管理鄂倫春五路。

1894年（清光緒二十年），撤裁興安城總管。鄂倫春阿力路、多布庫爾路歸黑龍江將軍墨爾根副都統(tǒng)管轄；庫瑪爾路歸璦琿副都統(tǒng)（亦稱黑龍江副都統(tǒng)）管轄。

1908年（清光緒三十四年），嶺南為黑龍江行省（簡稱黑龍江?。┠劢茌牐瑤X北為璦琿直隸廳管轄。

1914年（民國3年），嶺南隸屬黑龍江省嫩江縣。1月11日，嶺北設呼瑪縣、漠河設治局，隸屬黑河道。

1917年（民國6年），漠河設治局改制為漠河縣，隸屬于黑龍江省黑河道。

1929年（民國18年），呼瑪縣辟設鷗浦縣。呼瑪縣、漠河縣、鷗浦縣隸屬于黑龍江省黑河市政籌備處。

1934年（民國23年），大興安嶺一帶淪陷后，嶺南歸偽興安東省巴彥旗管轄。嶺北三縣為偽黑河省管轄。

1945年11月，嶺北三縣由黑龍江省黑河地區(qū)行政辦事處管轄。1946年3月，嶺南由納文慕仁盟巴彥旗管轄；8月12日，嶺北三縣由黑龍江省黑河行政督察專員公署管轄。

1947年2月，嶺北三縣隸屬黑嫩省第五行政督察專員公署。3月，三縣合并為呼瑪縣。5月，嶺南屬納文慕仁盟莫力達瓦達斡爾族自治旗（與巴彥旗合并）管轄。

1951年10月31日，嶺南歸呼倫貝爾盟新成立的鄂倫春旗管轄（1952年5月，改為自治旗）。

1964年2月10日，中共中央、國務院決定開發(fā)建設大興安嶺東北坡。將內蒙古呼倫貝爾盟鄂倫春自治旗、莫力達瓦達斡爾族自治旗行政區(qū)一部分，黑龍江省黑河專區(qū)呼瑪縣和嫩江縣行政區(qū)一部分，劃歸會戰(zhàn)區(qū)。

1964年8月10日，中共中央、國務院批準在大興安嶺會戰(zhàn)區(qū)成立大興安嶺特區(qū)人民委員會（省轄市級），受會戰(zhàn)指揮部和行政區(qū)所在省（自治區(qū)）雙重領導，地方行政工作受黑龍江省政府領導。各林業(yè)公司設區(qū)政府，林場設鄉(xiāng)（鎮(zhèn)）政府。是時，特區(qū)轄有松嶺區(qū)、新林區(qū)、塔河區(qū)。

1965年1月，林業(yè)部在大興安嶺會戰(zhàn)區(qū)設立大興安嶺林業(yè)管理局，與大興安嶺特區(qū)政府實行政企合一管理體制。

1966年4月20日，將黑河專區(qū)呼瑪縣“嫩漠公路”以北和呼倫貝爾盟鄂倫春自治旗東南部劃歸大興安嶺特區(qū)行政區(qū)。

1967年11月26日，大興安嶺特區(qū)人民委員會改為大興安嶺特區(qū)革命委員會。

1968年4月，設呼中區(qū)。

1970年4月1日，大興安嶺特區(qū)改為大興安嶺地區(qū)。將原屬黑河地區(qū)的呼瑪縣和原屬呼倫貝爾盟的莫力達瓦達斡爾族自治旗、鄂倫春自治旗全建制劃歸大興安嶺地區(qū)管轄。原屬牙克石林管局管理的阿里河、甘河、吉文和克一河林業(yè)局劃歸大興安嶺林業(yè)管理局。大興安嶺林業(yè)管理局隸屬于黑龍江省林業(yè)總局。

1970年8月5日，設古蓮區(qū)和阿木爾區(qū)。

1977年3月，設圖強區(qū)。

1979年5月30日，將莫力達瓦達斡爾族自治旗和鄂倫春自治旗劃歸內蒙古自治區(qū)。原屬鄂倫春自治旗的加格達奇區(qū)、松嶺區(qū)仍由大興安嶺地區(qū)管轄，原屬地權不變。阿里河、甘河、吉文和克一河林業(yè)局劃歸牙克石林管局。同年6月，大興安嶺林管局改為林業(yè)部直屬企業(yè)。1980年9月4日，大興安嶺地區(qū)革命委員會改為大興安嶺地區(qū)行政公署，成為黑龍江省人民政府的派出機構。

1981年5月14日，古蓮區(qū)改設漠河縣，塔河區(qū)改設塔河縣；圖強區(qū)、阿木爾區(qū)撤銷。

1982年3月6日，大興安嶺林管局企業(yè)管理體制（計劃、財務）單獨運作，仍直屬林業(yè)部，與行政公署合署辦公。

1986年1月29日，國務院批準行署、林管局所在地加格達奇區(qū)為縣級區(qū)建制。

1996年3月，國務院正式批準成立大興安嶺林業(yè)集團公司，仍與行政公署合署辦公。

2018年2月，經(jīng)國務院批準，同意撤銷漠河縣，設立縣級漠河市，以原漠河縣的行政區(qū)域為漠河市的行政區(qū)域。