哈军工时期
1949年12月16日—1950年2月17日，时任中共中央主席毛泽东访苏期间，双方确定并组建的中华人民共和国第一所高等军事技术学府。
1952年6月23日，毛泽东、周恩来、朱德、彭德怀在中南海怀仁堂小会议室接见陈赓，授命陈赓创建哈军工，以解放军第二高级步兵学校、华东军区科学研究室和中国人民志愿军第三兵团的部分干部为基础，在哈尔滨成立中国人民解放军军事工程学院（简称哈军工）。
1953年9月1日，正式成立中国人民解放军军事工程学院，毛泽东为学院成立颁发了训词。学院按军兵种设立空军工程系、炮兵工程系、海军工程系、装甲兵工程系、工程兵工程系五个系。
1961年，军事工程学院被确定为全国重点大学。
1959年3月，军事工程学院由中央军委领导改为原国防科委领导，培养、使用工程师的任务交给各军（兵）种，院校担负培养研究设计人员的任务。
1960年到1962年，军事工程学院进行了分建和改建。炮兵工程系迁往武昌，与武昌高级军械技术学校合并，成立炮兵工程学院，不久又迁往南京（现为南京理工大学）；装甲兵工程系迁往西安，成立装甲兵工程学院。工兵工程系迁往西安，后又迁往南京，现为解放军理工大学工程兵工程系；原子化学防护系迁往长春，成立防化学兵工程学院（现为防化指挥工程学院）；空军工程系的机场建筑和气象两个专业移交给空军气象学校；学校又陆续成立原子工程系、导弹工程系、电子工程系、计算机工程系。
1966年4月1日，军事工程学院集体转业，退出军队序列，改称哈尔滨工程学院。
哈船舶时期
1970年，国务院、中央军委决定，哈尔滨工程学院海军工程系全建制及原军工其他各机关系部的部分干部教师调整归第六机械工业部（后为中国船舶工业总公司）领导，在“哈军工”原址组建哈尔滨船舶工程学院。航空工程系迁往西安，并入西北工业大学飞机工程系，现发展为西北工业大学航空学院；电子工程系、导弹工程系、计算机工程系、基础课部和院机关等部分迁往长沙，成立长沙工学院（现为国防科技大学）。
1978年，哈尔滨船舶工程学院被国家教委确定为全国重点院校。
1981年11月，经国务院批准，学校成为首批具有博士、硕士学位授予权的单位。
哈工程时期
1994年4月，经原国家教委批准，哈尔滨船舶工程学院更名为哈尔滨工程大学。
1996年，学校通过了“211工程”预审，成为国家“211工程”的首批建设学校之一。
2002年，教育部批准学校试办研究生院；科技部、教育部批准学校启动建设“国家大学科技园”；原国防科工委、黑龙江省政府确定学校实施重点共建。
2003年，学校研究生院正式挂牌。
2007年，原国防科工委、教育部、黑龙江省政府、海军共建哈尔滨工程大学。
2008年，学校划归中华人民共和国工业和信息化部管理。
2010年6月，入选教育部第一批“卓越工程师教育培养计划”高校。
2011年，成为国家“985工程”优势学科创新平台项目建设高校。
2017年6月，哈尔滨工程大学哈军工文化园景区被评定为国家3A级旅游景区，是黑龙江省高校首个国家级旅游景区；哈军工纪念馆入选国家第三批国防教育示范基地。7月，被教育部评为全国创新创业典型经验高校。9月，入选国家“世界一流学科建设高校”。
2018年1月，学校入选教育部首批“国家级新工科研究与实践项目”。