哈尔滨工程大学设有船海核学院、航天学院、动力学院、自动化学院、水声学院、计算机学院、软件学院、国家保密学院、机自学院、信息学院、经管学院、材料学院、理学院、人文学院、国际教育学院、继续教育学院、国防教育学院、马克思主义学院等。
本科生都在哈尔滨的本部校区，研究生可以在本部，除此之外还有青岛研究生院，烟台研究生院，海南研究生院。
哈工程共有2个校区，一个是哈尔滨的校本部，一个是山东青岛的校区，青岛校区位于西海岸新区古镇口，校区规划面积2000亩，目前在校学生2万名左右。