青山镇位于罗山县境西部，距县城27公里。东与子路镇接壤，南与灵山镇隔小黄河相望，西与朱堂乡、平桥区五里店街道为邻，北与楠杆镇毗连。辖童桥、王岗、岳山、寨里、夏寨、陈洼、青山、孙岗、洪河、冲口、周湾、孙楼、冯楼、五里14个行政村和双桥1个街道社区。

镇政府原驻地青山店，明万历年间成集，因位于青山脚下并筑寨墙得名青山寨，后寨毁，改称今名。该镇交通便利，京港澳高速、G107国道穿境而过。罗山人的母亲河，小潢河就发源于此。

春秋属楚地，隋代属罗山县，民国属信阳第四行政区，1949年属涩港区，1958年撤区置青山乡，同年8月撤乡并入涩港公社，1961年再由涩港公社拆置青山公社，1970年政府驻地迁往双桥集镇，1983年改乡，1998年11月撤乡建镇。

青山镇矿产资源丰富，有瓷石、金、银、铀等，其中尤以珍珠岩、氟石、膨润土最为著名。境内最高峰为皇城山，海拔305米，风景秀丽，“灵山翻云皇城山接，有雨等不到天黑”，因这一古老的谚语，而使皇城山媲美灵山，佐证了皇城山的雄伟霸气。