郑州清真寺因地处北大衔,故又名北大街清真寺、北大清真寺或北大寺,是伊斯兰教在郑州建造最早、规模最大的清真寺。郑州清真寺始于元末明初，位于北大街128号，为郑州伊斯兰教传播发源地。
郑州清真寺因地处北大衔,故又名北大街清真寺、北大清真寺或北大寺,是伊斯兰教在郑州建造最早、规模最大的清真寺。
伊斯兰教与其它宗教最不同的一点是民族与宗教合一，哪里有穆斯林哪里也就有清真寺。所以郑州伊斯兰教是随着回族人口的出现而传入的。唐代,公元7世纪初,管城已是两京（长安、洛阳）通往沿海各地的水陆码头,一些过往的阿拉伯使节和商人,或寄寓或留居,成了当今郑州回族最早的来源。唐代宗宝应元年(762年),兵马副帅仆固怀恩极其所率军队在安史之乱平息后，留驻汴洛黄河两岸。据史家考证，仆固怀恩是一位“勇敢善战的穆斯林人”，他所率领的军队,主要是回纥、南蛮和大食人，也成为郑州回族的来源之一。唐中和四年(884年)，李克用奉命率兵五万进剿黄巢起义军,其大本营就设在郑州。后来又有一些回族因经商或从军等原因逐渐在郑州城乡定居下来,明代郑州城内的“回回巷”（今管城回族区清真寺街一带），已是回族群处的地方。同时清真寺作为伊斯兰教传教和活动的场所也陆续兴建起来。
郑州清真寺始于元末明初，位于北大街128号，为郑州伊斯兰教传播发源地。寺内乾隆二十六年（1761年）碑文记载：“由明以迄大清数百年，掌教者有三师。”清乾隆十九年和四十七年两次重修。雍正三年（1725年）重修寺门照壁，嘉庆七年（1802年）重修大殿滚白，光绪三十三年（1907年）重修望月楼。1953年、1982年郑州市政府两次拨款共40万元进行了翻修。寺院现占地近17亩，为两进院对称，中国传统宫殿式建筑,主要由大门、望月楼、大殿、南北讲堂浴室、殡仪馆组成。
清真寺正门面阔三间,进深二间,高约10米，单檐歇山顶,建筑面积96平方米。房顶覆以灰筒瓦，脊上浮雕莲花,戗脊前端置以云盘,檐下饰斗拱一斗二升，明间用石柱四根,平面呈小八角形；周围用木柱，中间为木制通柱二根,两柱前后有高达一米的抱鼓石二对。实榻大门三合,分别设在正脊下方的中柱两侧。门前有月台,方砖铺地，设垂带式踏跺四级,威严庄重。
望月楼又名唤醒楼,是伊斯兰教寺院中特有的建筑,为阿訇观月、斋戒之用。高10米,上下两层，平面正方形，重檐歇山楼阁式建筑,建筑面积49平方米。瓦顶及山面饰黄绿二色琉璃瓦花纹和悬鱼博风,脊上雕饰莲花，下檐用一斗二升加麻叶头斗拱,上檐置单昂三踩斗拱，转角用重昂把臂厢拱。周围有十二根石柱支撑，其中十根小八角形,二根四方形；前四根用汉文刻对联二幅,后四根用阿拉伯文刻对联二幅。前檐悬有竖匾“望月楼”,下檐横匾为“万化朝真”,后檐扇形匾书“远瞩西域”,中槛上方挂“正教昌明”大匾一块,为光绪二十一年(1895)阿马图鲁杨歧珍书。望月楼小巧玲珑,造型、结构和艺术等皆为此寺之精华。望月楼两侧各有硬山单披式掖门。
大殿亦称礼拜殿,为清真寺的主体建筑,高约十米，面阔五间，进深四间，有卷棚、前殿、后殿和庑殿式后窖。四座殿宇前后相连，组合一处，称为勾连搭式，面积423平方米，可容纳500多人同时做礼拜。殿顶用琉璃瓦和灰瓦，脊上浮雕花草纹饰。卷棚用四根石柱为小八角形，上刻阿拉伯文对联，殿内有光绪年间所置阿拉伯文横匾。礼拜殿前两侧是讲堂和硬山单披式掖门，并有陪房、沐浴室等。
寺内存有明宣德年间两个紫铜香炉，上有铭文印文章；清代大小碑刻16通，有数百年树龄的古槐两株。
清真寺首先是穆斯林沐浴、礼拜和举行宗教仪式的场所，其次还负有举办宗教教育、培养海里凡（学生）、传播宗教常识和学问的使命。清真寺也是向阿訇们向穆斯林宣传《古兰经》圣训、教规、教义、圣史的讲坛,每逢主麻日(星期五)、斋月内、开斋节、宰牲节圣纪日,各寺阿訇要向本坊教民讲“卧尔兹”（劝戒）。同时清真寺也是为穆斯林群众主持婚、丧、嫁、娶、纪念亡人的地方。负责寺里日常行政事物的是社头,现在是管委会主任。
清真寺还接纳招待外地来游的传经学者,如明朝时从西域来的真人默穆都哈,死后葬在老坟岗,尊称巴巴墓。20世纪二三十年代,河南省著名阿訇马常青、庞士谦、尚希贤等都在这里招收海里凡，设帐讲学,培养宗教职业者。1989年3月,接待了来我国参观访问的伊朗驻中国大使布鲁杰迪及子女一行四人，赠送了地毯和《古兰经》。
寺内有对联如下：
大殿对联：
①认真主无形无影凭万物作证；参造化非高非远唯一理在心。
②一天画圆须知丹青无二；满地文章当思运笔是谁。
③-匾有：乾隆十三年马长青阿旬所写两幅。
郑州北大清真寺有明代宣德炉两只，为稀世之物。本寺是河南省级文物保护单位之一。郑州是全国旅游胜地，前来该寺观光礼拜的人数甚多。