北关有回民定居，始于明代。据北关《马氏族谱》载：吾祖世居开封，闯王放水河决开封时，先祖马登尤举家迁至考城。

据《重建清真寺碑》载：明崇祯年间，由马登尤之子马尚智捐施土地，在考城建寺一座。寺址在今寺南数百米。

清顺治年间（1644~1661），城内马、张、金、杨等数姓回民民众奉献乜贴，对清真寺进行重修。清乾隆四十三年（1778），黄河决堤，城内寺俱毁。是年，城内回民在城东重建一寺（寺址在今寺年300米处）。清乾隆五十三年（1788），清真寺迁至今址。“文化大革命”中，清真寺房屋被占用。1980年，清真寺恢复开放。后由回族民众集资对望月楼、门楼进行了重建。

民权县北关清真寺建有礼拜殿、卷棚、南北讲堂、水房、三门和内宅一所。寺院占地8亩余。现寺占地3亩，有礼拜殿3间，卷棚3间，望月楼1座，北屋3间，南屋5间，水房2间，门楼及门面房7间。

寺院建筑物属中国古典宫殿式建筑格式，庭院宽敞，殿宇整洁。天井中奇花异草芬芳，古树参天。礼拜殿前悬挂清代大书法家李运科所书“无像宝殿”四个大字的巨幅匾额。匾额含蓄奥妙，书法苍劲有力。

北关清真寺历任阿訇有：袁壁、马连昌、陈万善、苏振环、丁启顺、何恩军、吴德真、石万聚、王殿祥、李文明、白玉清、何恩荣、阎绍瑞、李志才、白清连、丁可才、王长献、盖丙顺、金梦士、石贵明、丁广治。

北关清真寺，座落在民权县北关镇南门里路西。