遂平县第一高级中学位于遂平县城西关大道与和幸路交叉口。

遂平一高位于汝河南岸，西关大道与和幸路交叉口。学校前身是遂平二初中，1956年7月招收高中一年级新生两班，改名为“遂平完全中学”，学制六年。

1958年大跃进时期，遂平完中，遂平师范，遂平一初中合并，由遂平完中统一领导。

同年秋，开展大炼钢铁运动，学校基本停课。合并的学校解体。遂平一初中仍回原址开办。遂平完中，遂平师范仍为一体。

1960年暑假，学校招收一班幼儿师范（附于遂平师范）。

1961年，遂平师范停办，幼儿师范停办，初中班停止招生。至此，遂平一高才成为一所名副其实的高中，定名为“河南遂平高级中学”。学制三年。

1966年7月，文化大革命开始，学生停课闹革命。

1968年秋，知识青年上山下乡开始。66、67、68三届学生同时毕业，插队劳动。同年底，“四下放”，学校停办，教师各回原籍。高中，一中合并为红旗中学。

1970年春，遂平县在遂平一高的原址上，开办“遂平农机学校”。同年冬，该校停办，中央国防科委占驻遂平一高至1971年底离去。

1972年2月，遂平一高复校。高中，一中分家，这才正式定名为“遂平县第一高级中学”。学生由各公社推荐，学制改为二年，春季招生，寒假毕业。

1973年改为暑假招生。学制仍为二年。

1975年8月18日，遂平县遭受特大洪水，学校除一幢教学楼和一个化学实验室外，其余一切全被冲走，冲毁。

1976年文化大革命结束，学校的隶属关系由受地区教育局转变为受县教育局领导。次年，恢复高考。

1980年，学制改为三年。

1981年，学校被驻马店地区确定为县重点高中。

1997年，学校被县委、县政府提升为正科级单位。

1998年秋由中共遂平一高支部委员会改建为总支委员会。

2000年元月，学校被省委、省政府命名为省级文明单位。

2015年9月，学校由原来的瞿阳镇迁往南关新校区。

学校占地面积186亩，总建筑面积7.7万平方米。遂平一高新校区位于驻马店市遂平县月儿湾大桥南，新107国道东侧，占地面积95000平方米。

具有现代气息的办公楼、科技楼、综合教学楼、多功能餐厅、配备有冷暖空调的高档学生公寓等，取代了当年简陋的平房，学校配备有图书室、阅览室、语音室、实验室、微机室、多媒体教室、电子备课室，使教育教学环境得到显著改善。

教学班已由复校时的8个班发展到73个教学班，学生由1971年的不足400人发展到5900多人。

学校有在职教职工337人，其中，国家、省、市级骨干教师68人，省、市级学科带头人24人，特级教师6人，高级教师74人，研究生学历16人。先后有5人获得国家级优秀教师和全国教育系统劳动模范称号，12人获得省级优秀教师和劳动模范称号，50多位教师受到市级表彰

学校并为各类高校输送新生15000多人。先后为清华、北大输送新生近40人，培养了省文科状元魏华伟、市文科状元张云飞、宋徽徽、王振宇、包瑞，市理科状元徐秋月，常冬冬、张会亮等。考入清华大学的徐风英被誉为“博士楼里的农家女”，作为清华大学的学生代表，曾受到胡锦涛总书记和美国总统布什的接见。

近年来，遂平一高面对日益激烈的教育竞争，知难而进，团结拼搏，在体现综合办学质量的高考中，连续三年被表彰为全市“省级示范性高中类先进学校”，为遂平实现 “人口小县、教育强县”的目标做出了应有的贡献。连年受到县政府的通令嘉奖，先后被表彰为国家级“体育工作”先进单位、省 “千秋杯”管理先进学校、省级“德育工作”先进单位、省级“绿色学校”、省级 “为人师表、育人楷模”先进单位等，荣获市级以上表彰达47项之多。

2016年11月 校长于建成被市教育局评选为“优秀校长”，点名表彰。

2017年高考徐秋月同学考得市理科状元。

为学生终生幸福奠基，为社会全面进步育人。

以人为本，崇德尚能，身心双健，师生共赢。

推进和谐教育、塑造名校风范。

把学习作为第一需要、把发展作为第一要务，

把人才作为第一资源、把团结作为第一保证。

党委书记、校长于建成被市委宣传部、市教育局表彰为“驻马店教育十大领军人物”，2009年4月被河南省人民政府授予“河南省劳动模范”称号；2011年6月被中共河南省委授予“全省优秀党务工作者”称号。

遂平一高坚持科学决策、规范管理、打造一支高素质的教师队伍、营造一个奋发向上的和谐氛围，并在探索中总结形成了一套成熟的管理理念和管理机制，徜徉在遂平一高美丽而富有人文气息的校园内，扑面而来的是制度规范下的优秀教师队伍，以及由此而产生的良好的教育环境，这就为学校的长远发展提供了条件和保证。