राजवाडे के पीछे के हिस्से में होलकर वंश के कुल देवता (मल्हारी मार्तंड - शिव ) का मंदिर है | इस मंदिर के भीतर जाने पर होलकर वंश के इतिहास को दर्शाते हुए बहुत से चित्र लगे हुए हैं | साथ ही अनेक दुर्लभ मूर्तियाँ विशेषकर कुलदेवता मल्हारी मार्तंड (शिव) के अनेक रूपों में मूर्तियाँ हैं | यहाँ शिव भगवान की एक बड़ी मूर्ति है | जहा पर मल्हार मार्तंड भगवान जो की शिव भगवान का ही एक रूप है के पास में काले पत्थर से बनी अहिल्या माता की मूर्ति भी रखी है | यह पर काफी तस्वीरे दी गई है जो की राजवाडा का इतिहास भी बताती है | मंदिर में प्रवेश करते ही सामने गणेश जी की मूर्ति है और बायीं और शिव जी की मूर्ति स्थापित है | दाई और अहाते में आपको बड़ा सा शिवलिंग नजर आएगा | इस मंदिर का अधिकांश भाग लकड़ी का बना है इसकी छत भी | 
