雨山地区历史悠久，早在2200多年前的秦朝，即有牛渚地名（今采石）的记载。牛渚属会稽郡丹阳县（今当涂县丹阳镇）。北宋元丰年间（1080），今雨山地区内的采石镇、青邮镇（今佳山乡青邮村）隶属当涂县。此后，这一地区隶属关系历元、明、清和民国乃至全国解放后的1956年马鞍山建市前均为当涂县所辖。1956年11月15日，根据安徽省人委发出《关于设置马鞍山市的通知》，将当涂县的马鞍山矿区全部、采石镇全部、雨山乡大部、宝庆乡（今佳山乡）一部等划归马鞍山市。同年11月26日，市委决定：马鞍山城区成立马鞍山、向山、采石3个街道办事处，郊区成立党委。此后至1976年近20年间，雨山地区随着马鞍山市行政区划的几经变迭而有所变更，凡街道办事处和居民段，凡人民公社和乡镇人民政府。直至1976年6月1日，雨山区正式设置，为马鞍山市辖区之一。下辖雨山、平湖、采石3个街道。此后，区划作了4次较大调整。一是1984年11月29日，经市批准，将雨山街道一分为二，分设为雨山街道和安民街道。二是2001年7月13日，马鞍山市行政区划调整：撤销向山区，将原向山区的向山