自从一八五三年底，张乐行接受赖汉英的建议，开始把以往散在各处的小捻并为大捻，再从各股大捻中选出全捻的总领袖。经过半年的准备，捻党在雉河集大汇合，祭告天地，宣布起义，并放弃了以前曾想象的“大汉”名号，转尔正式接受太平天国皖省自卫军的番号，张乐行被公推为自卫军总指挥。

皖省自卫军下面又划分为五个旗，张乐行自己为黄旗总首领，龚德树为白旗总首领，侯伟为红旗总首领，王贯三为黑旗总首领，韩万为蓝旗总首领。五旗之下又各设五边，每边有首领分统，各旗小的几千人，大的几万人，全部人马近十万。

从一开始张乐行公布的为各旗共同遵守的行军纪律来，这只军队本身就不同于别的游民军队：

一、兵到之处，污淫妇女立斩。

二、强奸幼童立斩。

三、掳掠妇女幼童隐藏不献者立斩。

四、不遵号令约束者斩。

五、小卒无理持械敢拒首领者斩。

六、临阵时故意漏下，支吾打粮，私自下乡找寻财物，淫人妇女者斩。

七、无号令私自打粮者斩。

八、对敌时私自逃走者斩。

九、起身听三声号炮齐集；未放炮而先行〔者〕斩，既放炮而后行者斩。

十、营中私自放火者斩。

十一、行路时故意下路者斩。

十二、行路各守分队炮车，先行后行者杖四十。一、扎下营盘，外更、门更，排班轮流；有错更者杖四十。

十三、营中无故伤人命者，一命一抵。

十四、借宿朋友家，本宅非吃食物件，妄取一物，杖四十。

十五、私造谣言者斩。

十六、虚报军情，酌议定罪。