古代帝王死后，升祀太庙，始祖称为「大庙」，高祖以下则称为「小庙」。 《周礼．夏官．祭仆》汉．郑玄．注：「小庙，高祖以下也，始祖曰大庙。」
庶出的帝王为其生母所立的庙。 《隋书．卷七．礼仪志二》：「又有小庙，太祖太夫人庙 也，非嫡，故别立庙。」
规模不大的庙。 如：「到前面的小庙里休息一下。」
比喻不很理想的环境。 如：「咱们这个小庙里容不下您这尊大菩萨，您还是另谋高就吧！」