原封廉亲王胤禩为康熙第八子，康熙三十七年三月封贝勒。皇太子胤礽第一次被废时，因谋取皇太子位，被削去贝勒，以示惩戒。不久，康熙帝命诸大臣于皇子中推选可为皇太子者，阿灵阿等示意诸大臣推选胤禩。位于东城区台基厂。

康熙帝曰：“胤禩未更事，且罹罪，其母宜微贱，宜别举。”康熙帝将胤礽释出，复封胤禩为贝勒。康熙六十一年十一月，雍正帝继位，命胤禩总理事务，晋封廉亲王。但因其屡次暗中与雍正作对，终不为雍正所容。雍正四年正月，雍正帝在西暖阁召诸王公大臣宣布胤禩罪状，革去黄带子，逐其福晋还外家。二月，授胤禩为民王，不留所属佐领人员。不久又命削去王爵，交宗人府圈禁高墙。宗人府请更名编入佐领，胤禩改名阿其那，子弘旺改名菩萨保。雍正四年九月初十，胤禩于监禁中病故，享年46岁。

在《京师坊巷志稿》卷上有两条记载：一为75页“王府大街”条，转引《啸亭续录》记述：“饶余亲王、廉亲王府，俱在王府大街。”；二为58页“四王栅栏”条，同样引有《啸亭续录》的记述。又加了半句话：“今皆为昭中祠。”朱一新按：“今昭忠祠在台基场东北。台基场本王府街，明中叶后置厂于此，故名。续录所称，从其朔也。”可知廉亲王府在台基场东北，相当于现今的台基场头条。它的西侧是裕亲王府，东为安亲王府。安亲王府在雍正二年改为昭忠祠，而廉亲王胤禩被黜宗室在雍正四年，这时的昭忠祠已经落成。在乾隆京城全图上，昭忠祠西邻为“经版库”，即原廉亲王府。惟经版库已经改成库房的规制，可以看出府外尚存的东阿斯门、西阿斯门与裕亲王府共用。宫门已无，正殿、后殿均开五间。正殿和后楼东侧的转角廊房已无。经版库东侧的院落已进占原安亲王府内。廉亲王府原使用面积当远不止此，应囊括经版库北、长安街南侧的建筑物。

查看《乾隆京城全图》，可以看到：在崇文门内大街台基厂段，东长安街以南地域标绘有化成寺、昭忠祠、经板库、裕亲王府、万寿庵等建筑。据此，与昭忠祠西相比邻的经板库当为原廉亲王府。从时间上来说，饶余郡王府（安亲王府）于雍正二年（1724年）改建成昭忠祠，2年后，廉亲王府成为昭忠祠的所属部分。