该庙地处太白山余脉之南麓，东为浙东名刹天童禅寺，西为屹立于少白岭之颠的镇蟒塔（少白塔），背山面向天童街市，现存建筑为清咸丰六年重建。整组建筑群坐北朝南，由大门、主楼、戏台、厢房、大殿、观音阁等组成，共分二进院落，总长约87米，占地面积约1500平方米。

　　大门位于太白庙的建筑群体的最前端，为单檐硬山顶，面阔三间，通面阔9.83米；进深6.71米。明间用四柱，门前部设卷蓬轩廊，檐柱上部横出重栱，上施花机承托檐檩；前部出牛腿，上置插栱花机以承托檐方，前檐有飞椽。前后梁架六界，且不完全对称，梁架遍施红漆，脊柱低部有花篮形垫木落在三架梁上，上有插栱花机承脊方，后部步柱悬空，下部为花篮。大门前部梁架雕刻彩绘精美，后部雕刻较为简单，后檐无飞椽。山面梁架为四间五柱，脊柱落地。屋面为小青瓦铺就，檐口无滴水瓦；屋脊为滚筒亮子脊，两端施龙吻。

　　主楼为两层硬山建筑，面阔三间，通面阔11.42米；进深6.75米，用四柱。主楼两侧为耳房，皆二层硬山顶，主楼一层前部走廊设卷蓬，轩梁中部垂花柱，上有雕刻。主楼梁架六界，露明造，为圆作，梁下都有随梁方一道，脊柱落于三步梁上，檐柱和后金柱为落地通柱，其他为短柱，东侧山面脊柱落地。主楼前出飞椽，二楼前部挑出阳台上设雕花栏杆，后两界经楼梯可至戏台。主楼屋脊为滚筒子脊，中间有火焰状装饰，两侧施龙吻，两边耳房屋脊较主楼低，亦用龙吻。

　　戏台位于主楼后面并与之相连，为歇山顶，通面阔进深均为4.3米。底部列柱8根，其中通柱4根位于四角，其他为槏柱。通往顶施平板方，上置斗栱，斗栱为五踩双昂，昂嘴为凤头昂，栌斗中部突出；昂嘴较长且略微上翘，每面各设平身科四座，檐部出飞椽并与主楼相连。戏台额方上施有彩绘，内容为三国故事，顶部-笼顶藻井。戏台屋面为筒瓦片铺就，施龙吻。屋脊中部有莲花葫芦状装饰。垂脊末端各有戏剧人物雕像一具，形象生动。

　　厢房与主楼两边耳房相接，东西两边均为两层，基本对称。面阔均为四间，通面阔14米，进深两间，通进深3.93米。硬山造，后部砌实墙，墙基处为石块砌筑。梁架三界面，二层前部檐柱并未与一层跟通，而是置于挑梁上。柱头出牛腿斗拱承撩檐方，牛腿雕刻成鱼形，前檐出飞椽，檐口与主楼相接。

　　大殿位于建筑群最后端，面阔五间，通面阔18.75米，正贴进深三间，通进深14.3米。硬山造。正贴为抬梁式木构架，共十界，前两界做两道卷蓬轩廊，卷蓬前小后大，中间设垂花柱，雕刻精美。檐柱出牛腿，置斗拱花机承撩檐方。后两界构架较粗糙，中间六界均为抬梁，梁架较为粗大，七架梁与五架梁之间用花篮状大斗承接，斗上出重拱接檀方；五架梁与三架梁之间则在大斗下置荷叶墩，并出单拱接檀方，三架梁上则置荷叶墩与小斗承脊檀方，两侧出山雾云。大殿次间进深方向为六间七柱，脊柱落地。屋面为小青瓦铺就，檐口无滴水瓦，正脊较高，两端为龙吻，脊中塑有双行龙戏珠形象。

　　观音阁为大殿西侧耳房，面阔一间4.24米，进深七间，通进深8.58米。硬山造，东面搭接于大殿西山墙，并有方木连接柱子与墙体。梁架为八柱七架椽，穿斗式构架。檐柱与金柱之间做一枝轩卷蓬，檐柱出牛腿，做法与大殿相近。