中岳庙位于太师山脚下，始建于秦代，是历代皇帝祭祀嵩山的场所，兴盛于唐代武则天时期，武皇曾十次登顶嵩山，封嵩山为“天中王”，开启了“封中不封东”的时代，此时嵩山和中岳庙名声大震。
中岳庙是五岳祭庙中保留古建筑、文物、古树最多的地方，庙前甬道的最前面是太室阙，国家重点文物建筑类编号001号，始建于东汉，与少室阙、启母阙并称为"中岳汉三阙"。
甬道边的神像中有汉代文物——年代最早的翁仲雕像，高一米左右，翁仲是秦朝大将，英勇善战。雕像古朴大方。
从天中阁进入岳庙，走在古代帝王祭祀专用的神道上，两侧柏树森森，其中300年以上的柏树有300余株，3000年以上的柏树有16株左右，4000年以上的柏树有8株左右，是全国庙宇中古柏最多的地方。每一个柏树上都住着一个树仙，经过千年香火的熏陶，有了灵气，若龙、若猴、若鹿等等，自成一番道古仙风。
配天作镇坊，古时称中岳为土神，以地配天，唯有中岳才能和天相配，故得名。
崇圣门为过往门庭，因中岳神曾被封为“中岳天中崇圣大帝”而得名。崇圣门东有古神库，创建于北宋，古神库周围有四个高大的铁人，四大铁人铸造于北宋英宗治平元年（1064），高3米许，重约3吨，握拳振臂，怒目挺胸，形象威严，是中国现存形体最大、保存最好的四个“守库铁人”，同时也是北宋铸造艺术的代表。
峻极门因中门两侧塑有一丈四尺高的两尊将军像，故又名“将军门”，是中岳大殿中心院的山门，清乾隆时重修。峻极门附近有许多珍贵文物，峻极门前东侧四角亭内有《中岳嵩高灵庙碑》，刻于北魏太安二年（456），是嵩山地区最古老的一通石碑，碑高为2.82米，由整石雕成。碑文传为著名道士寇谦之所书，字体结构严整，笔调朴实健捷，仿似汉碑古制，是研究北魏和中岳庙宗教历史的极其珍贵的实物资料。峻极门外台阶下东侧，有一座《五岳真形图碑》，刻立于明代，碑上按照五岳的座落方位，雕刻着五岳图，图下刻记着关于五岳的传说。
嵩高峻极坊，坊名源自《诗经、大雅、嵩高》，“嵩高维岳，峻极于天”。枋后是供奉岳神的中岳大殿，又名“迎神门”，清代木结构建筑。
拜台位于中岳大殿前，每年庙会期间人们在此拜祭中岳大帝天中王。
峻极殿 为中岳庙的正殿，又称“中岳大殿”，是嵩山规模最大的建筑。此殿面阔九间，进深五间，重檐庑殿顶，椽飞斗拱，梁枋天花，皆用清代最尊贵的和玺彩画。清初殿外还悬挂有宋人颜体“峻极殿”三字匾。
峻极殿殿内正中央是一座雕琢华丽的大型神龛，神橱上悬有清康熙御书“高高峻极”四字横匾。龛内塑有高3米多的中天王像，龛外侧塑有高达6米的执锤侍立、姿态雄伟的镇殿将军，左为方弼，右为方相，是嵩山地区最大的泥塑作品。东殿角木架上，悬架着明万历元年（1573）铸造的千斤铁钟。大殿神龛后壁立有阴刻宽迹“坎”字碑一通。传说中岳庙后的黄盖峰西有座火焰山，坎属八卦中的水象，树立此碑，是以水灭。
峻极殿的彩绘天花顶棚中央是盘龙藻井，是用精致的小型斗拱层层叠造而成，盘龙居井心，龙口中原来系有宝珠，又名定风珠，避祸珠，现保存于台湾，当地人呼之为“老龙盘窝”，是一组珍贵的艺术品。
寝殿位于中岳大殿的后面，根据前朝后殿的皇宫制度而建，是中岳大帝天中王和天灵妃起居场所。
御书楼中岳庙最后一座殿宇，面阔11间，原名“黄箓殿”，是储存道经之地，创建于明万历年间。后来清乾隆皇帝游中岳时，曾在此殿题碑书铭，故又称“御书楼”。现为硬山庑殿式黄色琉璃瓦楼房，为民国时期所建。
