几何学
欧几里得所提出的抽象概念，进而使得《几何原本》列入了最有影响力的书籍之一，欧几里得提出五大公理和公设，揭示了点线面的自可证的基本性质，他一直试图通过其他数学理论来严谨性推导其他性质，而这也是欧几里得陈述的最特色的地方，并使得几何更加公理化和。19世纪初，尼古拉·罗巴切夫斯基 (1792–1856), 鲍耶·亚诺什 (1802–1860), 卡爾·弗里德里希·高斯 (1777–1855)对非欧几里得几何的探索使得几何学领域又得以重新发展，而在20世纪初，大卫希尔伯特把公理性证明的引入成就了现代几何学的出现。
中国科学技术大学院系
数学系是1958年由著名数学家华罗庚主持创办并任首任系主任。首批全国理科人才培养基地、中国科学院博士生重点培养基地、长江学者特聘岗位设置学科，并获得首批数学一级学科博士学位授予权（涵盖数学所有博士点）, 其中基础数学为国家重点学科。关肇直、吴文俊、冯康、龚昇、王元、万哲先、陆启铿、石钟慈、林群、张景中等一大批知名专家曾在此任教。在2000年至2008年期间，数学系与物理系、近代物理系、天文与应用物理系共同组成了理学院；2008年，数学系再次独立出来。2010年11月成立数学科学学院，下设三个系：数学系、计算与应用数学系和概率统计系。