府西街是一条古老的街巷。金代中叶，阳曲县迁徙到了太原府城中，县衙便设置于今府西街中段北侧。故址在原太原市药材公司中药厂旧址。不过，当时这条街并没有得府西街之名，而是以县衙得名，叫做“县前街”。

至朱明王朝开基，废元代冀宁路，改置太原府，设府衙于县前街，选址县衙之东。于是县前街一辟为二，以三桥街南口为界，向西仍为县前街，向东则改名“府前街”，俗称“府门口”。

据《阳曲县志》记载，从明初至清道光年间，县前街和府前街是太原城中官署、学府、庙宇极为集中的街巷。不长的街面两侧 （主要是北侧），太原府衙、阳曲县衙、府文庙、府学、县学、黑虎财神庙……鳞次栉比。各个衙门、学府、庙宇前的牌坊，高大别致，一座接着一座，什么“熙朝毓秀坊”“龙光宠锡坊”“湛恩汪岁坊”“三晋首邑坊”……不一而足。

光绪年间的那一场大水，冲掉了浮盖在县前街和府前街的光彩，文庙因水患迁址，府学和县学倒圮废毁。就在这次水灾之后，府前街沦为太原城建房材料的交易市场，土木砖石以及泥沙石灰均在这里成交。人们遂把多少年来显赫的府前街，称作“灰市儿”，街名亦约定俗称得名“灰市街”。

民国20年（公元1931年），山西省督军阎锡山因灰市街靠近督军府，街名既不儒雅，又带有一个灰不溜秋的“灰”字，遂改灰市街为“府西街”，以其位于督军府之西而名之。

太原解放后，随着旧城改造的发展，一些早年的街巷名存实亡。1958年打通解放路后，将县前街、府西街、灰市街等三条街道，合并为一街，统称为“府西街”。

府西街又是一条新生的街。建国后的三十多年来，尘土飞扬、坑洼不平的土道，变为笔直平坦的柏油路面。山西省最大的外文书店，矗立在其街的东口。

太原市的高层建筑之一“太原金融大厦”，拔地于街的西口。还有那一幢幢的居民楼，以及新建的居民住宅小区，纷纷出现在这条古老而新生的街畔。

2013年太原府西街进行了新一次的街道整修改造，目前府西街路面整洁开阔，除了公交站牌，还将有8个公交自行车服务点，是龙城太原最靓丽的一条街。