1940年6月11日，因为战斗已挽不回败势，法国上层人物决定放弃抵抗。第三共和国总统保罗·雷诺，这个文人总统在这种时刻显然太优柔寡断，于是84岁的贝当元帅来了。贝当是一战的英雄，是“凡尔登的救世主”。

当德军兵临城下的时候，贝当元帅发表了感人肺腑的广播演说：“我把本人献给法国，来减轻它的痛苦。”

6月25日，在贡比涅森林，德法达成了停战协议。按照协议，整个法国划分为占领区和非占领区。占领区包括了法国北部和大西洋沿岸；而非占领区则包括法国的南部和西部农业区，由贝当为元首的政府控制，其面积约占法国领土的2/5。1940年7月，贝当政府迁至法国中部小镇维希。

1940年10月11日，维希政府发出了建立新秩序的文告，打出了“民族革命”的旗号，宣称它的目的就是“保卫工作、家庭和祖国”，以此代替了自由、平等和博爱。维希政府取缔了一切政党，法兰西第三共和国设立的总统、总理也被废除，一切行政、立法、司法大权集于国家元首贝当身上。

由于贝当的军事背景，一大批军官自然成了他的忠实拥趸。武人掌权的后果就是1940年8月法国老兵协会的成立。这个组织由一战老兵把持，囊括法国形形色色的右翼组织和政党。数月之内，老兵协会就宣称有会员120万人。

协会的主要任务是不遗余力地从政治上支持贝当政权。它开展了广泛的社会工作来赢得草根阶层的欢心，例如为那些关押在德国的法国战犯家庭提供帮助，给穷人和老人提供一定的福利。

随着法国抵抗运动的兴起，老兵协会的一些人感到必须变得更加军事化与暴力化。这其中的关键人物就是约瑟夫·达纳德。

达纳德1897年出生在法国，一战时加入法国军队，由于作战英勇获得了7次嘉奖。二战爆发后，他又重新应召入伍。在防守马奇诺防线时，达纳德受伤被俘，但他很快就逃了出来，并去了法国南部的尼斯。由于达纳德的传奇故事，1940年3月21，达纳德成了《巴黎竞赛报》的封面人物。

达纳德一直对共产主义深恶痛绝，他很早就参加了法国右翼政党。20世纪30年代，他是右翼政党行动法国的一名领导人，后来他又成了一个秘密恐怖组织“防风衣”的活跃分子。

由于自己的特殊经历，达纳德谋得了法国老兵协会滨海阿尔卑斯省的地方主管一职。但是他很快就对协会所采取的温和手段感到不满。1942年1月，他在协会下成立了一个新的部门——维持治安军团(简称为维安团)。维安团的誓词是：“我发誓，与民主作斗争，与戴高乐作斗争，与犹太人作斗争”。

1942年7月，维希当局把8160名犹太人驱赶到一个自行车赛场。犹太人从这里被转运到德国的集中营。而维希政府排犹最臭名昭著的是运作一个被称为“死亡接待室”的中转集中营。这个集中营设立在巴黎郊区的德朗西。1942年3月27日至1944年7月31日，德国盖世太保和法国警察将法国北部75721名犹太人关押在德朗西集中营。他们后来都被押送到奥斯维辛等集中营，战后仅有2500余人幸存。

1942年4月，由于贝当在镇压抵抗运动上与德国貌合神离，在希特勒的支持下，卖国贼赖伐尔出任维希政府总理，贝当成了徒有虚名的国家元首。赖伐尔掌权后，维安团加紧了向准军事组织的变革。1943年1月5日，维安团改名为“法兰西民兵”，由达纳德掌握实际领导权。

加入法兰西民兵的人必须满足以下四个条件：法国出生；非犹太籍人；没参加其他秘密组织；自愿加入原则。民兵组织采取了两种组织方式，一种是常备军，这些人全职参与军事行动，成员的年龄在18~45之间；一种是后备军，他们不是全职的，但有义务在紧急情况下入队。

在民兵组织里，混杂着理想主义者、机会主义者、冒险分子和罪犯。他们大多数对空洞的政治理想不感兴趣，他们能够肯定的是，加入这个组织则可以获得一份收入稳定的职业，以及一点配给的食物。

战后，法国的历史学家莫尼克·卢拉德对一部分幸存下来的民兵组织人员进行过统计，在165名人员当中，70%的人出身工厂工人和雇员，17%的人是无业游民，6%的人是工匠、农民，还有其他一些社会各类人员。

他们注定得不到法国人的尊敬，相反，他们是地道的“法奸”：对内镇压，对外阿附。而且比起德国人来说，他们更加令人恐惧，因为他们懂得当地的语言，了解当地的人情，熟知各种情报渠道。为了得到自己想要的东西，他们经常对被俘者严刑拷打，正因为如此，他们被视为“法国的盖世太保”。

为了对付抵抗组织，1943年年底，法兰西民兵和党卫军达成协议：法兰西民兵鼓励其成员加入武装党卫军，作为交换，党卫军给民兵提供一些轻武器。在与德国的合作中，达纳德学会了盖世太保对付敌人的各种办法，他也搞起了袋鼠法庭(即不按司法程序进行审判的法庭)，对地下抵抗组织的人安上莫须有的“暴徒”或者“布尔什维克分子”的罪名随意处决。

为了打击法兰西民兵的嚣张气焰，法国抵抗组织针锋相对地进行了一次次除奸行动，他们的暗杀常常就选择在公众场合，要么是咖啡馆，要不就是大街上。1943年4月24日，他们在盖索维斯大街上枪杀了一位法兰西民兵官员。到了11月末，游击队共暗杀了25个卖国贼，刺伤了27个。

最著名的暗杀行动发生在里昂。1944年6月28日，天刚破晓的时候，维希政府的宣传部长菲利普·昂里奥还在睡梦中。这时在索尔夫伦大街上出现了15个身着法兰西民兵制服的士兵，他们悄悄地摸进了部长的寓所，在一阵乱枪中，部长和夫人双双毙命。据说，游击队员最后还给昂里奥的尸体行了个军礼。这位号称法国的“戈培尔”的昂里奥一直在广播里高声宣扬反英、反共、反犹，这一刻他终于闭嘴了。

很快法兰西民兵展开了报复行动，里昂分部的头目鲍尔·杜维耶立即抓捕了7名犹太人人士。6月29日早上5点， 7名犹太人没有经过任何审判，就遭到枪决。当地的警察局长在报告中这样描述：“一条肮脏的公路通向公墓，在公墓的墙边躺着7具尸体，他们头上、胸部多处中枪。每具尸体的旁边插着一块白色的硬纸板，上面写着他们的名字。”

1941年，为了粉碎德国的阴谋，英国和自由法国联手向维希法国的“委任统治地”叙利亚和黎巴嫩发起进攻，上演了一场“法兰西内战”。投降的维希法国军队(包括6300名士兵和127名军官)加入了自由法国部队。

1944年6月6日的诺曼底登陆，宣告了维希政府和法兰西民兵的末日到来。

8月末，法国很多地方已经解放。曾经遭到德国铁蹄蹂躏的法国人在屈辱、害怕中迎来了复仇的时刻，他们疯狂搜寻法兰西民兵和各式卖国贼。法兰西民兵和形形色色的法奸们不得不逃亡德国。许多人在路上遭到了抵抗组织的猎杀。在法国东南部的上萨瓦省的大波尔南市，一批企图越境逃亡的法兰西民兵成了瓮中之鳖。96名士兵被送上军事法庭，其中76人被宣判死刑。

达纳德逃亡德国后，又率领800名法兰西民兵跑到了意大利。在战斗中，达纳德被俘，1945年6月他被押解到了法国，10月被执行死刑。同月，赖伐尔也被处以死刑。而那个在里昂残杀了7名犹太人的法兰西民兵里昂分部头子鲍尔·杜维耶，在1944年9月里昂解放时不知所终。两年后，杜维耶在里昂以叛国罪被缺席审判死刑。数年后，他被人检举揭发落入法网，1949年4月，经过法庭的多次庭审，最终杜维耶以“反人类罪”被判处终身监禁。

正因为法兰西民兵这段不光彩的历史，“民兵”这个词在法国开始明显地带有贬义。法国一个著名的摇滚乐团“Trust”有一首风靡一时的单曲名叫“警察民兵”(Police Milice)，在这里，他们把法国警察比拟为几十年前的纳粹狗腿子。