学校前身是创办于1924年的私立青岛大学。1930年,在省立山东大学和私立青岛大学基础上成立国立青岛大学。后历经国立山东大学、山东大学时期,1958年山东大学主体迁往济南,以留青的海洋系、水产系、地质系、生物系等为基础,于1959年3月成立山东海洋学院。1960年被国家确定为全国13所重点综合性大学之一。1988年更名为青岛海洋大学。2002年更名为中国海洋大学。
截至2019年12月,学校辖崂山、鱼山和浮山三个校区,在建中国海洋大学西海岸校区、中国海洋大学深圳研究院、三亚研究生院;设有19个学院,1个基础教学中心;有教职工3678人,中国科学院院士5人,中国工程院院士9人;全日制在校生27300余人,其中本科生15000余人、硕士10400余人、博士1900余人;有9个学科进入ESI全球科研机构排名前1%。2017年世界大学学术排名中,学校居全球第301-400位。