1976年,洛克希德事件爆发,前首相田中角荣被捕。同年6月25日,众议员河野洋平、田川诚一、
西冈武夫、山口敏夫、小林正巳和参议员有田一寿宣布与自民党切割脱党,并宣称“自民党的历史使命已经完成”,他们成立新党“新自由俱乐部”,号称“保守政治的刷新”。政治成立后,藤波孝生和桥本龙太郎也宣布加入。
新自由俱乐部在成立当年的首次大选就取得佳绩,一举拿下17个议席,还有一名追加公认。但是三年后的大选中只取得4个议席,党内陷入混乱,不过同时自民党在那次选举中也惨败,
福田赳夫等人逼首相大平正芳辞职(四十天抗争),新自由俱乐部在关键时刻投票支持大平,使大平度过危机继续执政。但是支持大平的做法受到其他在野党的批评,党代表河野洋平为此辞职。
之后,新自由俱乐部曾与另一小党社会民主连合进行在野共斗,一度成立了院内会派“新自由俱乐部・民主连合”(新自连),不过不久该会派就解散。与民社党、社民连等中道政党河流的念头打消后,新自由俱乐部决定支持自民党。
1983年的大选中,
自民党再一次惨败,不过追加公认新自由俱乐部的议员会勉强维持过半数。新自由俱乐部加入中曾根内阁联合执政,终结了55年体制以来长达28年自民党单独执政的局面。在中曾根内阁中,新自由俱乐部的田川诚一、山口敏夫、河野洋平等人先后出任资质大臣、劳动大臣等职位。
山口敏夫 劳动大臣 第二次中曾根内阁第一次改造内阁 党干事长