一村一寨的武装拒匪，逐渐发展成为附近数村数寨的联合抗匪，结成农民的自卫武装。在许多省份，这种武装被渗入宗教迷信色彩，与中国自古以来流传于民间的秘密宗教会门相结合，从而产生了红枪会、大刀会等组织。这种宗教会门武装，二三十年代，在中国北方各省，如鲁、豫、冀、晋、陕，以及东三省乃至四川等地较为普遍，在东南沿海一些地方也曾出现。
红枪会来源于古代的白莲教。白莲教，有的人认为始于宋代，但至少元末农民大起义时就借用了这个秘密宗教。其后明、清两代都多次发生过白莲教起义。清代宋景诗起义和义和团运动都与白莲教有关。他们依靠秘密宗教的神秘色彩，来团结广大农民群众，又以练功、练武、神道、邪术来鼓励其成员勇敢作战。
义和团运动失败后，相隔一二十年，又出现了红枪红枪会以使用的最基本武器红缨枪而得名。它最早产生于山东，随后向各省发展，又以河南为最盛。它以村、镇为基层单位，设会长或团长；几个村合为大会或联庄会，设总会长或总团长，也有叫督办、总司令、统领的，负责军政事务。另有法师（或称老师）掌管教务，负责神事和练功。红枪会基本成员为有家业的中、小农民，不脱离生产，不离开家乡。凡无业、盗窃、奸淫、吸毒者，一概不许参加。
参加者通过一定的宗教仪式入会后，要练功和练武约100天。这一时期中要斋戒、沐浴、禁女色等。练功，主要由老师念符咒，众徒长跪叩头，经过两个七七四十九天之后，据说即可学得“排刀”、“排枪”（刀枪不入）之术。这时，由老师授予写有咒语的护身符。会员每天早晨须将符供于神像前，礼拜念咒之后，焚符成灰用水吞下。有的则是将护身符贴在床上、门上。与土匪交战时，会员身系红肚兜似的袋子，内装护身符。有的是临战时吞符。每天晚间，有以“运气”、“练气”为主的练功法。
练武，分排砖、喝火、排刀、排炮等几种。排砖，就是上身脱光，拿砖依次在左肋、背脊、额头各击三下；每击一下，口中都要大声发出“哈”声。如此不间断地练一个月。喝火，就是以口对准油灯焰吸气，吸灭为止。排刀，是用刀背对左肋、腹部各砍三次，发出哈声，须练两个月。排炮，则是老师令一二十人赤膊持红缨枪站成一排；另一二十人持土枪（又称火炮）站在30步之外射击。枪内火药的份量是老师经过计算后安放的，子弹则是泥丸，均由老师事先装好。老师下令开枪时，被击者须心中想着诀咒，口里发出“哈、哈”大声。如果泥丸在身上打出红印，老师就宣布“子弹已打不进了”。
红枪会所敬奉的神抵，十分庞杂。总的来说，只要是在中国流传的各派宗教和神话、传说，谁在民间有威信，就祀奉谁。诸如，儒、释、道三教中的周公、观世音、太上老君、罗祖；《封神榜》中的哼、哈二将；三国中的关（羽）、张（飞）、赵（云）；水泊梁山的一百零八将；《隋唐演义》中的秦琼；《西游记》中的孙悟空、二郎神，乃至清代的黄三太、黄天霸，等等。根据不同支派和地区，所敬奉的对象，也不尽相同。
可以这样说，民国时期的兵、匪骚扰，使广大农民不得不起而自卫。由于他们的武器只限于木棍、缨枪、大刀、剑戟，无法对抗敌人的火器，他们就求助于江湖术士、拳脚师爷，学一些中国传统的武术、气功，加一点迷信罗祖为白莲教所信奉的四维祖师，“四维”二字合起来为“罗”的繁体字“瓢”。邪魔的符咒巫术，以补不足。当这些仍感不够时，便又请出民间索来敬畏的神仙、古人给自己壮胆，并借以吓唬敌人。最后，到这些都不灵验时，他们也开始夺取并使用新式的火器，来对付敌人了。
红枪会崇尚红色，其会众的标准打扮是红头巾（或青蓝头巾）、白褂（或褐褂）、黑布鞋、红腰带，贴肉扎红肚兜，内藏黄纸朱书的符咒；手持8尺左右的红缨枪，也有持大刀的，下有红色飘带。有些地区红枪会也拥有少量新式步枪，加强了战斗力。红枪会上阵杀敌时，一则由于自信有符咒保护、刀枪不入；二则因人多势众，故勇猛异常。
当敌人进攻时，他们口念咒语，相距五六百步时，即取出护符吞下，跪地磕头，起身后吸气、念咒，脚下使劲、迈八字步前进。近敌数十步时，突然猛烈冲锋，口中发出“哈、哈”大声，其声势逼人。一般对手往往慑于其武功法术、人多势众和不怕死的精神，而望风披靡。
这里先举一个例子，虽不是与土匪作战，但可以借此了解大刀会作战时的情形。1943年福建宁德、罗源、福安、福鼎、霞浦一带兴起大刀会，国民党当局派一团士兵进剿。双方在宁德县东南相遇。只见大刀会人山人海，尽持红缨枪。一名法师临阵请神做法，会员吞符念咒后，列队前进。
为首者手持一面七星旗，向左向右做有规律的摇动，身后的会众也随之一面摇动身体，一面继续前进。其中又有一名法师，身着红色僧服，头戴铜箍，右手执一装有铜铁薄片的铁圈，如铃鼓般摇动作响，左手持一海螺，吹号为令。会员即根据号令进止。
国民党士兵多为抓丁来的农民，对大刀会神助之说疑信参半，此时又见其阵势汹汹可怖，甚是惊惶失措；一阵排枪过后，见大刀会依然呐喊冲锋，更是深信神兵刀枪不入，遂不听指挥，纷乱溃退。部队军官当然不信迷信，但既不能控制士兵，便只得采取“以毒攻毒”的方法，来鼓励士兵的胆量。
他们取来乌鸡白狗，杀死后用血涂于子弹、刺刀、枪口、手榴弹等兵器上，声称用此污物可破大刀会邪术，使其符咒不灵。士兵中自然有人听过《水浒》、《平妖传》故事的，便信以为真，当下军心稳定，再战后杀死杀伤大刀会员甚众。大刀会也认为法术为污物所破，丧失信心，遂大败而逃。
红枪会只是这一类农民自卫武装总的代称。在不同地区，它们的名称以及仪式、服饰、姿态都有不同程度的变异。下面列举一些民国时期的这种组织。
绿枪会、黑枪会、黄枪会、白枪会，均仿红枪会形式，唯枪缨颜色不同，主要流行在鲁、豫两省。
大刀会，类似红枪会，但武器为大刀，盛行于鲁、皖、东三省，闽、川也有。
毛篮会，一手提毛篮，一手持刀，称敌方枪弹尽入篮中；也有未婚少女组织花篮会。豫北较流行。
扇子会，手持扇子，据说可将子弹扇掉；行于河南汲县。
子会，与敌交战时，神师持水一碗，右手食、中二指合并，对水画符，口中念咒。传于豫北。
白头会，又称孝帽会，白布裹头，胸前系符箓一块，抵御枪弹。多在豫北。
麻衣会，又称孝衣会，身穿丧服，左手持哭丧棒，右手持缨枪，见敌一磕头，再起而应战。多在淮河流域。
长发会，披长发上阵，法师先跪地念咒。行于豫南。
天皇会，神师自称天降，颈悬朝珠一串，上阵时，手弄朝珠，口念符咒，直隶为多。
哥弟会，临阵时，呼一声“哥”或“弟”，以求枪弹不入。流行于淮河流域、豫南。
六离会，以八卦中离卦命名，穿红马褂，故又名红马褂子。冀中流行。
方道会，又名黄马褂子，行于冀南。
天门会，白莲教后裔，多在豫北林、浚、滑、汲各县。
哥老会，白莲教后裔，多在晋北。
其他尚有清道会、黄纱会、九仙会、圣仙会、小刀会、一心会、红灯教、黑胡子教、武旗会、白旗会等多种，川鄂有红灯教，四川有神兵。