该府是清初有佐命殊勋的“八大铁帽子王”府之一，又称衍禧郡王府、平郡王府，位于西城区新文化街（原石附马大街）西口路北。因东侧与平比郡王罗科铎第三子诺尼的贝勒府为邻，故二府又称为东、西府。
    始封王岳託，是礼亲王代善的长子，因屡立战功，曾被封为成亲王，清军入关前死于军中，克勤郡王是其死后追封的。此府当是清军入关后，其袭封子孙所建，始封王其实并没有住过此府。而岳託第一子罗洛浑则是实际上的始王（时为衍禧郡王府）。至乾隆四十三年（1778年），乾隆帝追录岳託辅佐开国的特殊功勋，命恢复克勤郡王号。于是，袭封王庆恒便成为开府北京的第一位克勤郡王。
    该府（西府）占地面积不大，但布局紧凑、建筑精致。从《乾隆京城全图》上看，府中主要建筑为：（因图缺看不清面阔间数的）正门（有文字记载为3间），面阔5间的大殿、有丹墀，面阔5间的东、西配楼，面阔3间的后殿，面阔5间的后寝，面阔7间的后罩房。均合王府规制。该府西路前后有三进院落；东路是由5个小院组成的东西并列的两院。尚存府门前路南影壁、后部的内门、后寝与东西配房、后罩房，西跨院内也存大部原有建筑，府前部只存东翼楼，前部的主体建筑已经不存。现为新文化街小学使用。1984年公布为北京市第三批文物保护单位。2003年11月，由北京长城建筑工程总公司古建公司修缮后，恢复了昔日风貌。除整修留存建筑外，据清规制复建了府门、东西配殿、面翼楼等903平方米建筑，总面积达3717平方米。