黃山學(xué)院前身為始創(chuàng)于1978年的徽州師范專科學(xué)校；1997年12月，與原中國(guó)科技大學(xué)徽州大專班合并，更名為黃山高等專科學(xué)校；2000年8月，安徽省人民政府批準(zhǔn)黃山林業(yè)學(xué)校成建制地并入黃山高等專科學(xué)校；2002年2月，經(jīng)教育部批準(zhǔn)，升格為黃山學(xué)院。 2014年，黃山學(xué)院獲批建設(shè)安徽省高等教育振興計(jì)劃地方應(yīng)用型高水平大學(xué)項(xiàng)目、國(guó)家卓越農(nóng)林人才教育培養(yǎng)計(jì)劃項(xiàng)目。2019年，學(xué)校正式被納入安徽省省級(jí)碩士立項(xiàng)建設(shè)單位。
截至2021年5月，學(xué)校分為率水、橫江兩個(gè)校區(qū)，占地面積1800畝，其中校舍建筑面積57.02萬(wàn)平方米，教學(xué)設(shè)備總值3.06億元，擁有在校教職工995人，全日制學(xué)生1.8萬(wàn)余人，設(shè)有16個(gè)二級(jí)學(xué)院、63個(gè)本科專業(yè)。