2000年04月，因为政策分歧，日本自由党党首小泽一郎宣布自由党脱离与自民党、公明党组成的执政联盟，4月3日， 日本自由党部分反对小泽一郎决定脱离三党执政联盟的议员在东京的一家饭店举行会议，正式宣布脱离自由党，成立新的党派，并决定继续与自民党和公明党合作。

由日本前首相羽田孜、自治大臣野田毅等26名原自由党议员发起成立的新政党被命名为“保守党”，该党由扇千景担任党首，野田毅担任干事长。与自民党、公明党组成自保公联合政府。原日本首相海部俊树被选举为最高顾问。

在2001年7月的参院选举中，保守党只有扇千景一人当选。因此，党内要求改选党首，以争取在接下为众院选举中获胜。 9月17日，扇千景在东京辞去党首职务。 新党首由原干事长野田毅担任，新干事长由原干事长代理二阶俊博担任。

2002年12月，民主党前副代表熊谷弘退出民主党，与保守党商谈共同组建新党。

12月23日，保守党党首野田毅和干事长二阶俊博经协商决定，将保守党一分为二，野田毅等3人组成“保守俱乐部”（由于国会议员人数不够5名，因此不能成为政党），二阶俊博等9人与熊谷弘等4人于25日成立“保守新党”，共有11名众议院议员与4名参议员，仍然与自民党、公明党合组联合政府。原日本首相海部俊树被选举为保守新党的最高顾问，代表为熊谷弘，干事长是二阶俊博。

保守新党在2003年11月的众议院改选中大败，党首熊谷弘落选，原有的9个议席仅存4个，在自民党的邀请下并入自民党。11月20日，日本保守新党向总务省提出解散申请，原来属于保守新党的4名众议员和3名参议员正式并入自民党， 并在该党内成立了以原保守新党干事长二阶俊博为会长的“二阶集团”派别。保守新党并入自民党之后，自民党所获席位就会达到241个，超过议会的半数。众议院共有480个议席。