學校成立于1951年，其前身是1946年中國共產黨在東北解放區建立的松江省立行知師范學校，經歷了哈爾濱師范專科學校（1951-1956）、哈爾濱師范學院（1956-1980）時期，1980年更名為哈爾濱師范大學。2000年呼蘭師范專科學校、黑龍江農墾師范專科學校并入，2002年黑龍江省物資學校（黑龍江省物資職工大學）并入，組建成新的哈爾濱師范大學。
截至2021年4月，學校有江南、江北兩個校區，占地面積346萬平方米，建筑面積150余萬平方米，固定資產近31億元，教學科研儀器設備總值5億余元，圖書館館藏文獻總量1000萬冊；設有26個學院（部），82個本科專業；有博士學位授權一級學科9個，碩士學位授權一級學科20個，專業碩士學位授權類別10個，博士后科研流動站5個；有專任教師1700余人。