此地原为汤原县下的一个小镇，俗称鹤立镇。光绪三十四年（1908年）拟于此镇设置鹤立县，后因种种原因未遂。
此地是随着煤炭业的兴起而发展起来的。自民国三年（1914年）曹凤阳在此发现炭层后。民国五年（1916年）由沈松年等人向政府提出申请，并获得了采掘权。民国七年1918年）开始开采，同年誉军鲍贵卿以及财政厅长，实业厅长等人，以个人名义投资，成立鹤岗煤炭矿有限公司，并计划扩大矿区，铺设一条从矿山到松花江岸的轻便铁道。民国八年（1919年）六月刘尚清（黑龙江省财政厅长）任总办。民国十五年（1926年）十一月自矿山站（一名石头河）到莲江口铁路竣工，民国十六年（1927年）二月开始营业。九·一八事变后，建立伪满洲国，于康德元年（1934年）五月，在此设立满洲炭矿株式会社，此后。鹤岗煤矿由满洲炭矿株式会社经营。随着煤炭开采业的不断扩大，此地迅速发展起来，康德六年（1939年）六月，伪满洲国实行行政机构改革之际。由汤原、萝北两县析置鹤立公，隶属三江省管辖。民国三十六年（1947年）撤销三江省，鹤立县划归合江省所辖。解放后，鹤立县升置市，名为兴山市。一九五一年改兴山市为鹤岗市，后为黑龙江省所辖。
1906年（清光绪三十工年）黑龙江省开始出放“鹤字段”毛荒。1916年清丈完毕。此时在今鹤岗附近出现数十个垦荒村落。1918年（民国7年）沈松年与孙丙午等人合资15万元成立兴华煤矿公司，开发石头河地方煤矿。1926年鹤岗铁路开通，煤矿发展。1929年3月，鹤岗煤矿公司驻矿事务所设街基管理员管理街政事务，从此矿山设治，名兴山镇。
1932年8月11日，日本侵略军侵占兴山湖，1938年日伪将兴山镇改治兴山街，隶属汤原县。1939年改隶鹤 立县。日本侵略者为了加强殖民统治，1941年5月将兴山街改为特翰街。还驻有日本宪兵分队、日本关东军守备以，设“鹤岗刑务署”、“鹤岗矫正辅导院”两所监狱。1944年二月兴山街改称鹤岗街。抗日战争胜利后，共产党、民主政府接管鹤岗，于1945年12月20日建立兴山市，先后隶属鹤立县、合江省、松江省。
1949年11月24日，兴山市改称鹤岗市，为松江省辖市。1954年鹤岗市为黑龙江省辖市。1958年鹤岗市划归合江专署领导。1966年鹤岗市改由省直辖。
1980年4月24日，黑龙江省人民政府批准：撤销鹤岗市东风区、跃进区，设立南山区；撤销鹤岗市群力区、反修区，设立东山区；红卫区更名为兴山区；红旗区更名为兴安区。
1987年11月6日，国务院批准（国函[1997]177号）：将佳木斯市的萝北县、绥滨县划归鹤岗市 |
