根据庙内铸于清雍正八年（即一七三〇年）的古钟推算，九龙城侯王古庙大概建于一七三〇年或以前，以供奉杨侯大王。该庙于一九二八年由华人庙宇委员会接管。
清廷在一八四七年至一八九九年驻军九龙寨城期间，寨城的官将多曾于侯王古庙参拜。侯王古庙是本港少数庙宇仍保留了大量与九龙寨城有直接关系的历史文物，例如由首任九龙巡检司许文深于一八四七年所捐的香炉。此外，其他著名的文物如一八八八年的「鹤」字石刻，至今仍可见于庙后的巨石上。
侯王古庙建筑群座落于石砌高台之上，包括庙宇主建筑及其后加建的厢房、亭、刻石等。庙宇前方建有独立的香亭，其歇山顶以精美的花岗岩石柱和木樑架支撑。神坛设于庙宇的后殿，是敬拜侯王和其他神祇（如观音）的地方。后殿的山墙采用了「五岳朝天式」设计，在香港甚为罕见。
侯王古庙于二〇一四年列为古迹。