现在的黑龙江省并不是原来的黑龙江辖区行政辖地，原来的黑龙江辖区管辖黑龙江流域中上游和外兴安岭西部，现在的黑龙江省只管辖黑龙江南岸和原来吉林的南部部分地区，现在的黑龙江省是1954年才形成的。
清朝统一全国前，已经加强了对“龙兴之地”——东北地区的统治，设盛京总管统辖。
为抵御沙皇俄罗斯势力对黑龙江流域的入侵，1652年，清廷派兵驻守，宁古塔、盛京两昂邦章京并存，东北地区被划分为两大军事驻防区域，也即两个行政区域：在中国清朝时期黑龙江流域部分属黑龙江将军辖区，流域部分属吉林将军辖区。
今黑龙江地区大部分位于宁古塔将军辖区（吉林将军辖区）之内。
1683年12月，清廷决定，划出宁古塔将军（吉林将军）所辖之西北地区，增设镇守黑龙江等处地方将军，简称黑龙江将军，管辖黑龙江将军辖区。
形成盛京、宁古塔、黑龙江三将军共同守卫东北。
这是黑龙江成一个军事、行政区域并以“黑龙江”命名的开端。
18世纪后期外东北黑龙江北岸，库页岛等100多万平方公里的土地被割给沙皇俄罗斯后，使中国在黑龙江流域和乌苏里江流域的行政区域大为缩小，后来所设的黑龙江行政区域倒退到黑龙江南岸。
黑龙江省简称黑。
省会哈尔滨。
古时为肃慎地，汉为挹娄、夫余地。
唐属忽汗州和瀚海都护府（唐朝诸侯国渤海国），辽金为东京、上京二道（路），元归辽阳行中书省和辽阳行省，元朝军队在此驻扎，明属女真奴儿干都司。
清1671年沿黑龙江岸筑城，名黑龙江城，清朝后期后改为黑龙江省。
清朝统一全国前，已经加强了对“龙兴之地”——东北地区的统治，设盛京总管统辖。
为抵御沙俄势力对黑龙江流域的入侵，1652年，清廷派梅勒章京率兵驻守宁古塔（今海林县境内）地方，翌年升为昂邦章京。
在中国清朝时期黑龙江流域部分属黑龙江将军辖区，流域部分属吉林将军辖区：宁古塔将军移住吉林乌拉后，于1757年改称吉林将军。
黑龙江将军之下先后设有黑龙江（瑷珲）、墨尔根、齐齐哈尔、呼伦贝尔、呼兰、布特哈、通肯等7城副都统和兴安城副都统衔总管。
1862年（同治元年）开始，黑龙江将军辖区内取消副都统，相继设立道、府、厅、州、县等地方行政建置。
1858年和1860年，沙俄通过不平等的《中俄瑷珲和约》和《中俄北京条约》，强行割占了黑龙江以北，乌苏里江以东100多万平方公里的土地，使黑龙江省和吉林省的行政区域大为缩小。
1900年江东六十四屯被沙皇俄罗斯武力占领。
1907年（光绪三十三年）4月，清廷对东北行政体制进行改革，从本来设置的将军改设巡抚，为一省之长。
实行省、府、县三级体制。
在省之下、府之上设立道以为监察区域。
在原黑龙江省区设有3道（瑷珲兵备道、呼伦兵备道、兴东兵备道），7府（呼兰、绥化、龙江、海伦、嫩江、黑河、胪滨），6厅，1州，7县。
当时为吉林省所辖而现在属黑龙江省境内的尚有2道（设于哈尔滨的西北路分巡兵备道和设于三姓城的东北路分巡兵备道），7府（双城、宾州、五常、依兰、密山、临江、宁安），3厅、1州，7县。
中华民国成立后，黑龙江省沿袭清代省、道、县三级体制，共辖龙江、绥兰、黑河3道。
后增设呼伦道，共为4道，21县，6设治局。
当时为吉林省所辖而今在黑龙江省境内的有滨江、依兰2道，18县。
1930年黑龙江省辖42县，11设治局。
当时隶属于吉林省今属黑龙江省的有22县。
1917年俄国十月革命后，中国 *** 逐步收回中东路“附属地”的行政 *** 。
1920年将该区域定为“东省特别区”。
1922年东北当局设立东省特别区行政长官，以统一监督节制该区域内的军警、外交、司法各机关。
1924年5月，北京 *** 批准东省特别区独立于黑龙江、吉林两省区域之外，成为与省并列的特别行政区。
东北沦陷时期，日伪政权实行省、县（市）二级体制。
从1934年开始对东北实行“分而治之”的政策，省的数量增多，区域划小。
伪满覆亡前夕，东北地区划分为15省1特别市，其中在今黑龙江省内设有龙江、滨江、三江、黑河、北安、东安6省，下辖哈尔滨、齐齐哈尔、牡丹江、佳木斯、东安5市，74县，3旗。
抗战胜利后，1946年8月，东北各省市行政联合办事处在哈尔滨成立，是东北地区最高行政机关，后改称东北行政委员会。
在东北行政委员会领导下，实行省（特别市）、县（市）二级行政制度。
黑龙江省是东北和全国解放较早的地区，自1945年11月至1946年5月，在今黑龙江省境内先后成立了5省1直辖市民主 *** ，即黑龙江、嫩江、合江、绥宁、松江5个省 *** 和哈尔滨市 *** 。
1946年10月，绥宁省改设为牡丹江专区，直属于东北行政委员会。
同年11月，哈尔滨市改称特别市。
1947年2月至9月，黑龙江、嫩江2省曾合并为黑龙江嫩江联合省，简称黑嫩省。
同年8月，牡丹江专区撤销，设立牡丹江省，1947年7月该省撤销，所辖区域分别并入合江、松江2省。
1949年5月，合江省与松江省合并成立新的松江省，嫩江省与黑龙江省合并成立新的黑龙江省。
同时，将哈尔滨市改为松江省直辖市。
黑龙江、松江两省共辖5市（哈尔滨市、齐齐哈尔、佳木斯、牡丹江、兴山），71县，2矿区（鸡西、双鸭山），2旗。
解放战争时期，在黑龙江省境内曾设立专区一级的行政区域，除黑河专区外，存在时间均不长。
中华人民共和国成立后，实行省、市（地）、县3级体制。
黑龙江地区在中华人民共和国建国之初仍设松江、黑龙江两省，所辖市（地）、县（旗）不变。
1950年10月，哈尔滨市开始设立相当于县一级的市辖区，齐齐哈尔市也设立了市辖区行政建置。
两省共有14个市辖区。
1953年8月，哈尔滨市改为中央直辖市，由东北行政委员会代管。
1954年8月，松江省建制撤销与黑龙江省合并为新的黑龙江省，哈尔滨市改为黑龙江省省辖市。
同时，将原黑龙江省所辖白城地区的7县划归吉林省管辖。
此后，黑龙江省的行政区域再没有大的变化。
合省后的黑龙江省辖98个县级以上行政建置单位，其中哈尔滨、齐齐哈尔、牡丹江市、佳木斯、鹤岗5市，黑河、嫩江、合江3专区，66县、旗，2个兼有行政职能的县级矿区（鸡西、双鸭山），22个市辖区。