景福二年（893年），唐昭宗改任凤翔节度使
李茂贞为山南西道节度使兼武定节度使，任命徐彦若为凤翔节度使。李茂贞不肯奉诏，联合
邠宁节度使王行瑜，击败护送徐彦若就任的三万禁军，兵逼长安。唐昭宗只得任命李茂贞为凤翔节度使兼
山南西道节度使，并召回徐彦若，改任为
御史大夫。
乾宁元年（894年），徐彦若再次拜相，担任中书侍郎兼
吏部尚书、
同平章事，后又升任
尚书左仆射，并监修国史。
乾宁三年（896年），唐昭宗在李茂贞的逼迫下，再次离京出逃，前往
华州，并任命徐彦若为
大明宫留守，兼京畿安抚
制置使。唐昭宗回京后，徐彦若进位太保，兼任门下侍郎。
光化三年（900年），宰相
崔胤专权，对官位在自己之上的徐彦若非常憎恶。徐彦若便请求引退，欲接替薛王
李知柔出镇广州。朝廷遂任命徐彦若为
清海军节度使，并保留同平章事的职务。
唐宣宗大中末年，徐彦若之弟徐彦枢在中元夜观灯于长安城中，遇一人同行，并对他说：“您是贵人，将来贤兄必定位居宰辅，十年左右，需要自请隐退，离开京城五千里才能免除灾祸。”并告诉了住处，约定过段时间回访。过了一段时间，徐彦枢去找那人，却发现是一个小神祠里的土偶。等到徐彦若做宰相时，徐彦枢将他的经历透露给徐彦若，徐彦若便请求调到当时归属唐廷的岭南地区，成为
晚唐宰相中少数几个善终者。
荆南节度使成汭曾向朝廷索要被
雷满占据的澧州、
朗州，但未获批准，心中非常怨恨。后来，徐彦若出镇岭南，路过荆南，
成汭设宴款待，并提及此事。徐彦若道：“
令公雄踞一方，以
齐桓公、
晋文公自比，而雷满只是偏远地区的一伙草贼，还要怨恨朝廷吗？”成汭羞愧得不能回答。然后成汭挖苦说：“岭南有
黄茅瘴，希望相公保重啊！”徐彦若回应道：“南海黄茅瘴，不死成和尚。”讥讽成汭曾为和尚，成汭听后无地自容。
徐彦若在去岭南时，将渡海时得到一个婴儿拳头大小的玻璃瓶，瓶里有个更小的乌龟打转。徐彦若取来收藏，这晚上徐彦若睡觉时，突然觉得船变重而且倾斜起来，徐彦若马上起床，发现无数乌龟千层万叠爬到船上，徐彦若大为恐惧，马上取出小玻璃瓶丢进海里，众龟就离开了。其后徐彦若将此事告诉一个外国人，外国人说：“这是龟宝啊，是稀世灵物，可惜你遇到了却不能得到，可能你是福薄之人，承受不起吧。如果谁得到并藏在家里，又怎么会愁宝藏少呢？”然后外国人反复叹息。
刘昫：濬、纬养虎于前，胤、璨剥庐于后。逐徐、薛于瘴海，置綮、朴于岩廊。
尉迟偓：前朝宰相，罕有不左降者，唯
徐商持致公直，数十年不曾有累。其子齐国公彦若，亦以忠于上、和于众，竟无贬谪之祸。