按通常的理解，黑龙江省中的"黑龙江"，自然就是黑龙江这条江，或是黑龙江流域。其实这是误解。
黑龙江省来自"黑龙江将军"。
咱先说"将军"。这里的将军，跟通常说的将军是两码事。这个将军是清代设置的上马管军下马统民的省一级军政长官，但比省级的巡抚要大，相当于八旗中各旗的都统，大多设于少数民族地区。
现在的辽宁一带，曾设奉天将军，后改称盛京将军；今吉林中东部、黑龙江东部曾设宁古塔将军，后来宁古塔将军移吉林乌拉，称吉林将军；今新疆北部设过伊犁将军、塔尔哈巴台将军；今蒙古国设过乌里雅苏台将军。上面这些将军，其实全是简称，全称应该是镇守某某等处将军，或镇守某某等处地方将军。盛京将军全称就是"镇守盛京等处将军"，盛京是城名，"镇守盛京等处将军"可以理解成，镇守以盛京为中心的地区的将军。奉天、宁古塔、吉林乌拉、伊犁、塔尔哈巴台、乌里雅苏台也全是城名。
《清史稿·圣祖本纪》记康熙二十一年（公元1682年）十二月，"庚子，郎谈使黑龙江还，上罗刹犯边事状。命宁古塔将军巴海、副都统萨布素率师防之。建木城于黑龙江、呼马尔，分军屯田"。康熙二十二年（公元1683年），"十月，上至五郎河行宫，奉太皇太后还京。丁未，群臣以台湾平，请上尊号，不许。癸亥，以萨布素为新设黑龙江将军"。
康熙二十二年（公元1683年）为抗击沙皇俄国的入侵，于现在黑河市爱辉镇黑龙江左岸（今俄罗斯境内的维笑勒依村）筑瑷珲城，设置镇守瑷珲等处地方将军，因瑷珲城又称黑龙江城，所以又称镇守黑龙江等处地方将军。黑龙江将军的得名，按照各地将军得名的通例，也是以城为名。镇守黑龙江等处地方将军中的"黑龙江"就是黑龙江城，而不是黑龙江这条河，更不是黑龙江一带。
镇守黑龙江等处地方将军辖地，是从宁古塔将军辖地中分出来的，东北至外兴安岭，东南至松花江，西北到额尔古纳河，西南至科尔沁草原，面积比现在的黑龙江省大得多。但现在的哈尔滨、牡丹江、佳木斯一带等松花江流域地区当时仍属宁古塔将军，后属吉林将军，直到新中国成立后才属黑龙江省。因为当时的黑龙江将军属地基本上就是黑龙江这条江两岸，如果"黑龙江"是江的名，就不能再使用"等处"字样了。
康熙二十四年（公元1685年）黑龙江将军移驻黑龙江江右岸的达斡尔族城堡托尔加城（今爱辉镇）并称此地为新瑷珲城，黑龙江将军及副都统均移驻新瑷珲城。而江左岸的黑龙江城称旧瑷珲，设守尉镇守。
康熙二十九年（公元1690年）根据将军萨布素关于墨尔根"首尾易制"的奏请，黑龙江将军驻地移至墨尔根城（今嫩江县城），但仍沿用黑龙江将军之名，未以墨尔根将军称。
康熙三十八年（公元1699年），黑龙江将军再迁至齐齐哈尔，直到清末。黑龙江将军虽迁，但是名称却没有更改，仍然是原来的黑龙江将军。
光绪三十三年（公元1907年）黑龙江设省，废黑龙江将军。从此一直称黑龙江省。因年代久远，新黑龙江城又以爱辉为名，极少有人使用黑龙江城，人们就忘了黑龙江将军的真实意义，而误以为是出自江名。
1924年7月12日，县劝学所所长王纯乐、前县议会议员陶孜诚等向黑龙江省府交递了《索还江东六十四屯呈请》（《黑龙江文史资料》第十二辑），其中说：
查黑龙江省瑷珲县治原名为黑龙江城，其区域系跨黑龙江东西两岸而居。初则将军驻于东岸，黑龙江省即由此而得名。继移于西岸，即今瑷珲县城也，再迁于墨尔根，三迁于齐齐哈尔，即现在之省垣也。而迄今尚称为黑龙江省者沿于此也。