代州古城是代县作为国家级历史文化名城的主要文化支撑，是中国古代北境著名的边塞重地和军事重镇，是古代南北贸易和文化交流的重要商埠，历为州、郡、道行政治所和军政治所。
代州古城古为上馆城，始建于东汉末年。光绪《代州志》载，北魏“明帝始移郡治于上馆城，即今城也”。万历《代州志》载：“雁门秦汉以来称雄郡”。
《重修钟楼并武臣坊碑记》载：“吾代东接神京，西通晋省，北据雁门之险，南绕滹沱之胜，以故城垣壮阔，科名昆耀，洵为山右之名郡焉。至于城中胜迹，未可悉数。”古城环筑关城3座，瓮城4座，逻城4座。庵观寺庙48座，坊表牌楼31座，楼阁16座，私家园林6座，衙署3座。
城垣东西稍长，南北略短，东北方呈秃角，形如“丑”字，故名“卧牛城”。南宋嘉定十一年（1218）元兵南下遭毁，明洪武六年（1373）吉安侯陆亨与都指挥史王臻大兴土木，在上馆古城旧址上重建。砌石为基，内为夯土，外为包砖，墙高约12米，周长约4310米，上垒雉堞。东南西北开四门，分别为熙和门、迎薰门、康阜门、镇朔门，门额嵌长方形石匾，东曰“屏蕃畿甸”，西曰“车辅晋阳”，南曰“滹沱带绕”，北曰“广武云屯”。东门设边储仓，城东南隅设草场，南门内设小草场，南门外设演武教场神器营。
瓮城在城门外，逻城址在瓮城外，各为4座。瓮城高与城齐，为12米，逻城高及城之半，为6米，设有暗门，以防敌攻。
护城河址在古城周围，深约7米，宽约37米，引源为流，内植荷花，似玉带蟠绕。逻城外设吊桥，桥为板筑，铁链悬吊起落，供人通行。
古城东西北三面，呈鼎足之势，东关城周2000米，护城河深6米，明成化二年（1466）建，西关城周1500多米，护城河深6米，明景泰元年（1450）建，北关城周2000米，护城河深6米。三关城墙均为石基，内夯土外表砖，上置垛口，下开四门。三关人烟稠密，鸡犬之声相闻，兵丁互通往来。南门外无关，东建南楼，西筑花台，中为莲池。明人题花台诗：“喜合明簪聚古台，况逢佳节好开怀，看花当日何人在，载酒今朝我复来，山色叠愁天地老，水声牵恨古今哀，眼前杯到休停手，待巾中白发催。”
边靖楼在古城中央，俗称鼓楼，又名谯楼，意为靖边安民，是古代守望敌人、击鼓联络、指挥作战的军事设施，明洪武七年（1374）由吉安侯陆亨建。楼为砖木结构，斗拱规整，梁架精巧，结构合理，建造宏伟。由砖券洞台基和三层四檐歇山顶楼身组成，基底平面东西长43.3米，南北宽33.3米，台高13.3米。楼身高26.7米，总高40米，面阔7间，进深5间，四周围廊。二层设勾栏，三层于勾栏之下设平座。南悬巨匾两块，一为“声闻四达”，长8米宽3米，一为“雁门第一楼”，长5.3米宽2.7米。北悬巨匾一块，长8米宽3米，上 书-“威镇三关”四字。此外，楼南一层和山门上还分别挂有“晋北形胜”、“共登青云”牌匾。楼内供设大鼓1面，大刀1把。代州边靖楼被长城专家考定为长城第一楼，与应县木塔齐名，素有“代州鼓楼应县塔，正定府的大菩萨”之称。
钟楼位于古城东大街北，明成化十四年（1478）十二月《边靖楼记》载：“翼七载，春三月，侯复卜卫之右隙地，筑台建楼，设钟鼓，为兵民之警焉”。楼砖筑台基，台高5米，宽15米。楼建台上，二层三檐，下层施重檐有回廊，高14米，楼身呈正方形，每面宽11米。“鸟革恽飞，光彩炫目，洵足与城楼、鼓楼后行辉映己”。内悬金大定二十八年（1188）所铸大铁钟一口，直径1.66米，上铸铭文“金大定二十八年岁次戊申八月十三日造”。
阿育王塔位于古城圆果寺内，俗称白塔，隋仁寿元年（601）建，时称“龙兴”，为木塔。唐会昌二年（842）灭佛塔，大中元年（847）重建，改“龙头”为“圆果”。北宋元丰二年（1079）被焚，崇宁元年（1102）又建，南宋嘉定十一年（1218）元兵南下再毁。六百多年中历遭三劫，于元世祖忽必烈至元十二年（1275）改建砖塔。塔为圆锥形，佛教藏式造型，基平面南北长50米，东西宽30米，高1.5米。塔建其上，座为砖砌圆形，周长60米，高40米。作覆仰莲瓣及重涩混肚与方涩须弥座式，雕刻各种花饰、荷瓣和陀罗尼经。塔身上施曲尺形须弥座，座上承刹杆。砖作相轮13层，上复盖盘，中连金顶宝珠。其与五台山明代大白塔代表了两个历史时期的建筑风格，是研究承袭关系的代表性实物，白塔造型秀美，稳健挺拔，砖雕艺术高超，是中国藏式塔中的佳作。
州衙署在古城东大街北，隋开皇五年（585）设代州总管府，辖代州、忻州、蔚州、朔州四州，唐初置制史、别驾、长史、司马、录事参军等，唐武德七年（624）改总管府为都督府，辖代州、忻州、蔚州、朔州四州，唐初置制史、别驾、长史、司马、录事参军等，唐武德七年（624）改总管府为都督府，辖代州、忻州、蔚州、朔州、灵州、顺州六州，开耀元年（631），名将薛仁贵出任代州都署。唐贞观十年（636）设雁门折冲府，置折冲都尉、左右果毅都尉等领兵屯守。五代、后晋、宋均设刺史，宋太平兴国四年（979），杨业知代州驻泊兵马部署。宋设代州防御使。原署大堂5间，左曰“幕厅”，右曰“斋室”，东西库各一。大堂后有退堂3间，退堂露台后有正廊5间，其西有“可轩”。大堂露台前有坊，书戒台四语：“乐俸乐禄，民脂民膏，下民易虐，上天难欺。”仪门3间，大门1间，左为“延宾馆”，前建“三关古郡”坊。现存州署遗址，是华北现存最大最完整的州署衙门之一。衙署包括衙门、大堂、二堂、三堂，大堂面阔5间，进深5间，柱粗两围，斗拱规整，青灰筒板瓦盖顶，屋脊安大吻。二堂、三堂均面阔3间，进深3间，前有廊子，两旁配厢房。堂前所存两棵老槐，枝叶茂盛，仰观蔽日，俯视如潭，春至槐花缤纷香四溢，夏到浓荫匝地凉沁脾，不减当年气势。
文庙位于古城西南，唐代建，总面积14400平方米。座北向南，东有忠义祠、文昌阁，西有明伦堂、节孝祠，忠义祠左右设学正、训导二署，构成一组规模宏大的儒学建筑群，为华北现存最大的州文庙，是我省稀有的古典建筑。分前中后三院，前院植唐槐两株，筑半圆形泮池，上架御带桥。泮池东建名宦祠，供奉官宦牌位50位，西建乡贤祠，供奉历代贤人50位。前院正北为戟门，西为节孝祠，设代王夫人、汉王霸妻、明节妇牌位14人，烈妇烈女牌位8人，民国节烈妇女牌位322人。中院正北为大成殿，面阔5间，进深5间。明间、次间隔扇雕刻精致，有三绞灯球六碗，五绞四碗嵌橄榄球纹，双绞四碗古老钱等7种之多。殿内八卦攒顶，其木雕艺术和斗拱结构为我国稀有，相传上面藏有避尘珠，颜色鲜艳不落尘埃。大殿正中曾设孔子二龙戏珠木雕大牌位，左右设曾子、孟子、颜子、思子牌位，及先贤12人牌位。殿前筑露台雕栏，甬道为五爪团龙石雕。殿后建敬一亭，面阔3间，进深3间，四周围廊。中院东西各建廊房，供奉先贤牌位39人，先儒牌位31人。后院北为崇圣祠，东西北各3间，殿内设启圣王、诒圣王、肇圣王、裕圣王、昌圣王祀位，及10位先贤先儒牌位。庙前为万仞坊和棂星门，万仞坊由四柱三楼组成，主楼五朵斗拱，次楼各三朵斗拱。棂阁下门由六柱五楼组成，六柱直冲云霄，顶端有琉璃盘龙云罐，并厅兽站顶。中为明楼，两侧为次楼，相间为夹楼。相传，古时每逢两棵唐槐花开之际举子忙，几百年来枝叶茂盛如初，渐渐吸纳日月之精华，感悟人间世事之灵性，成为举子应试的吉祥之物。
将军庙位于古城边靖楼西，又名武安君庙、李牧庙，院分四进，山门为四柱五楼牌坊，前院东西配殿各2间，正面建过殿3间，二院东西配殿各6间，过殿为一檐二层3间，底层通甬道，上层为乐楼。三院东西配殿各7间，正面建将军殿5间，后殿座南向北，前殿座北向南，进深均为3间。后院有东西配殿各3间，正面建后大殿，面阔5间，进深3间，悬山顶。所祀李牧为战国时赵国著名将领，常居代州以防匈奴，期间积极组织百姓发展畜牧业，招募将士10余万人，大振军威。此后匈奴来犯，李牧采用游击战术，大破匈奴10万余骑，使匈奴18年不敢接近赵国边境。公元前235年，秦攻赵，赵国以李牧为大将军，在宜安大败秦军，因功被封武安君。后秦国使用反间计，重金贿赂赵国郭开，李牧遂遭诬陷被斩，三个月后秦灭赵。
武庙位于古城西南街，俗称老爷庙，元天历二年（1324）建，后改关岳庙。庙门前建牌坊5楹，中题“壮穆忠武”四字。牌坊后筑高台5楹，上建大殿，面阔5间，进深3间，内祀古代名将12人。殿为重檐歇山顶，绿琉璃方心，前复神棚，突出殿外。中悬横匾“天日同昭”，为明朝孙传庭题。内院有高楼5间，供奉关帝三代祖考，建筑奇特，塑像生动。
城隍庙位于古城西北街，一进两院，中设过殿。过殿面阔3间，进深3间。前院开正门，两侧建廊式配殿各3间。后院东西配殿各3间，正殿面阔5间，进深3间，单檐悬山顶。
慈云庵位于古城东南街，明天启元年（1621）建，后遭毁。现存正殿，面阔3间，进深3间，内塑释迦牟尼、文殊菩萨、普贤菩萨“三圣”坐像，残存壁画17平方米，均系明代早期原作。
周玳官邸位于古城东南街，总面积4000平方米，为阎锡山炮兵司令周玳官邸。分前后两院，前院有过庭5间，东西配房各3间，南房5间。后院建藏书楼5间，东西配房各3间，均系砖木结构，砖雕精细，古朴典雅。西设花园一座，建有六角亭，建筑工艺精巧。周玳字子梁，光绪二十七年（1901）被保送到北京清河陆军第一中学，宣统三年（1911）武昌起义后，返回太原参加山西新军起义，任队官（连长），从民国三年（1914年）开始，相继晋升为炮兵连长、营长、团长，民国十六年（1927）升任炮兵司令，“七七”事变后兼任战区兵站总临，后又兼河防总司令等职，民国三十七年（1948）被聘北平武管会主任，1952年9月任林业部专员。民国三十六年（1937）红军改编为八路军北上抗日，开赴山西路经太原时已到深秋，战士仍穿立脚点单衣，阎锡山却拒绝发给服装，周玳便暗中给周恩来所率战士每人一套棉军衣、一袋大米。同年十月，率8个团炮兵参加忻口战役，炮轰日军，经过二十三天激烈战斗，给日军以重创。民国三十八年（1949）解放军围困北平，周玳以私交同邓宝珊、何思源等劝傅作义起义，为和平解放北平作出积极贡献。