黑山公园历史上曾是清代葛布喇墓地，1956年辟为公园，是解放初期北京市修建的少数几个公园之一。公园北部为自然山丘，园内百年松柏苍劲，林木花疏扶摇，具备良好的园林基础。
多年来疏于管理，特别是“0”遭遇破坏，部分用地被挤占，园容每况逾下。上世纪90年代曾做小规模整修，2004年作为门头沟区重点工程全面改造。仅半年时间，公园完成了拆墙透绿、景区建设、平面布局和竖向的调整。增加了广场、园门、景亭、喷泉、健身及儿童游憩园地、园林服务设施等，同时对湖面、水榭、山体和洞门做了适度完善，使公园功能和景观都有了大幅度的提升。2004年被评为北京市精品公园。
信息来源：北京市旅游发展委员会