20世纪初，西学东渐，废科举，立新学。潜山有识之士顺应时势，1900年改科举考棚为高等小学堂。1910年 改高等小学堂为五年制中等学堂，名为“潜山县立中等学堂”，这是潜山中学的脉源，也是潜山县中学教育的发端。1923年始名为“潜山县立初级中学”，成为潜山县第一所初级中学。1957年春，在县城湖南会馆遗址新建，名为“潜山县第二初级中学”。1957年秋正式命名“潜山县初级中学”。1958年，招收高中班，成为潜山县第一所完全中学，适时更名为“安徽省潜山中学”。1961年，书请郭沫若先生亲笔题写校名。当地人民将其称为“潜山一中”。十一届三中全会以后，潜山中学焕发出新的生命力。1977年至1989年，重整恢复，奠定新基。1990年至2002年振兴图强，谱写新篇。2004年1月，学校晋升为“安庆市示范高中”。2009年6月学校晋升为“安徽省示范高中”，落实“追求一流，形成特色，确立名牌”的战略，学校发展进入了新的历史阶段。2010年成功举办百年校庆。2011年建成彭岭分校。
办学规模学校规模扩展迅速。至2012年，校园占地面积45327m2，教学班高中42个，教职工211人（含离退休44人），学生总数2900余人。
学校硬件设施先进。有近10995m2的教学楼群；有总面积9874m2的学生公寓6栋；有 5000m2的高标准配备试验器材的科技楼1栋，内设图书馆、语音室、音乐室、美术室、信息技术室和标准的理化生实验室；有2000m2的学生食堂及室内体育馆1栋；有天文馆1栋；有300米塑胶跑道运动场和标准的篮球场、排球场；有可分别容纳600人、200人、100人、60人的多功能报告厅5间；接通了远程教育宽带网，建立了潜山中学网站；所有教室都装备了多媒体设备，所有教职工都配置了笔记本电脑。
师资力量师资力量雄厚坚实。成人杰之美，兴科教之风。1980年，化学老师黄可久被省政府批准为首批特级教师。为适应新课改要求，学校加强教育科研，实施“青蓝工程”和名师工程，引领青年教师专业成长，引导教师由专业型向专家型发展。现有在职教师167人，其中高级教师85人、中级教师58人；全国优秀教师2人；省优秀教师1人，省教坛新星2人，省骨干教师2人；市劳模2人，市有突出贡献的中青年专家1人，市教坛新星3人；市、县先进教育工作者、模范教师、优秀教师和学科带头人38人；县教坛新星4人；国家奥林匹克竞赛一级教练1人；省、市、县教育系统中、高级职称评委及专业学会理事、名师团成员等18人；省、市、县政协委员4人。