一、清代地方武装
　　清咸丰二年(1852年)八月，太平军逼近长沙。安徽巡抚蒋文庆通饬各县修筑城墙，编保甲，备器械，设防堵局，以防太平军入境。十月，桐城县(含今枞、桐两县)防堵局成立，马星曙主局事，募乡勇500余人。城守把总李兆奎，枞阳把总芮永福，邑人马三俊都亲自督练乡勇操功习武。县内巨豪大户和绅士商定乡民均要捐款，以供乡勇活动开支。
　　同治元年(1862年)八月，知县薛元启募乡勇200余人，镇守城池，由城守把总张德荣统领。薛元启调集一部分乡勇与无为县一部分水师会合，镇守今枞阳县周家潭。
　　光绪二十六年(1900年)六月，安徽抚军王之春通饬各县地方官与城绅举办团防，先整顿原团练，后招营勇。十二月，桐城知县符兆鹏与邑绅等四处筹款，招募营勇500余人，由典史文宏基统领。文宏基购买军械，以“洋操”训练营房，后分驻5乡，即枞阳、汤沟、孔城、城垣、练潭。光绪二十七年十二月，改团防为巡警队，设巡官1名，知县陆士奎兼任队长，胡鞠生任教练。光绪三十二年(1906年)十月，桐城县招募营勇300余人，扩充巡警队，至此巡警队达500余人。该队后改为巡防营。
　　二、国民党地方武装
　　民国元年(1912年)1月，桐城知县刘蔚堂购军械，招兵勇，操办团练，日夜习练“洋操”、“洋枪”，兵勇改穿“洋装”。孔城、枞阳、汤沟、练潭、大关等地均设有团防局。民国6年后，县内有武装乡勇500余人，分驻孔城、义津、汤沟、枞阳、练潭、大关等地。民国16年9月至民国21年，桐城县(含今枞、桐两县)设自卫团，先后任团总的有张悦舟、李柏樵、王纯卿，自卫团分驻县内4乡及桐城县城。
　　民国24年9月，县长徐国治见地方武装力量单薄，加之桐城为皖西“剿共”特区之一，便扩充地方武装，成立了县自卫总队，下设武装壮丁队和普通壮丁队。各区配编武装壮丁中队，区长兼任中队长，每队壮丁90名。另外各区还配编普通壮丁中队，也由区长兼任中队长。每年分两期集训，训练后的壮丁作为“铲共义勇队”和“模范壮丁队”的兵源。各区还编有壮丁40余人的巡察队，主要担负巡防、放哨、侦察、搜捕、警戒等任务。武装自卫队所需经费一律在各保摊派。
　　民国27年6月，日军侵入桐城县境，国民党桐缄县政府迁往唐家湾。县自卫总队改编为抗日人民自卫军，由县长潘慰农兼任司令，下辖5个常备中队和2个学兵队(实为共产党控制)。每个常备中队下辖3个分队，分队编制120人、学兵队为80余人。这支地方武装计有重机枪2挺，轻机枪12挺，另有小钢炮1门，步枪700余支。
　　民国28年1月，国民政府颁布了战时《国民军事组训整备纲要》，统一改县抗日人民自卫军为县国民自卫总队。桐城县自卫总队队长由县长兼任，授上校衔，副总队长授中校衔。自卫总队编有5个常备中队。同时增设警队，警队下设12个新训分队，每个分队编制30人左右，主要任务是搜集情报和维护地方治安。
　　民国29年4月，桐城县国民自卫总队(包括新训队)改编为县国民兵团，团长由县长魏际青兼任。兵团下设政治指导室，配主任指导员、副指导员、副官、书记官等职。原来的5个常备中队和学兵队均改称自卫中队。
　　民国33年8月，县政府军事科裁并县国民兵团，设团副3人，分别负责兵役、编练、警卫。原来的4个自卫中队，后扩充为4个大队、12个自卫中队，并裁编各区警保队，实际编制1500余人，分驻全县各重要关隘。同年，县国民兵团，为了扩充兵源，组织了两期训练，受训国民兵达1.2万余人。
　　民国34年4月，全无若接任桐城县长，并兼任国民兵团团长，赵东江任副团长。民国35年　2月，国民政府命令缩减地方武装，全无若将新编的3个自卫大队整编成1个自卫大队，下辖6个中队。
　　民国36年5月，游铨任县长。7月，游铨召开县参议会，向全县人民摊粮派款，由县副参议长张护棠前往国民政府国防部，购回了步枪220支、机枪2挺、子弹数百箱。并将国民兵团改编为县民众自卫总队，由县长兼任总队长，孙希光、刘东雄任副总队长。8月，自卫大队改称警保队，下辖6个中队，每个中队编制为140人。同时在区一级设7个联防办事处：城厢、孔城、木崖、樟树、枞阳、汤沟和桐怀潜边区。各乡成立分队，配编30余人。全县计有57个独立分队，东南乡(今枞阳县境)联防大队长刘东雄，辖5个中队。每个中队有110人左右，步枪约90余支、机枪2挺。自卫队兵员给养，军需装备，归各区自行筹集。
　　民国37年12月，新任县长范用九将县民众自卫总队改编为县民众自卫团，辖2个营，兵员700余人。民国38年1月，国民党第八绥靖区发布命令，将县警保大队和所有联防大队改编扩充为2个自卫团。警保大队及城厢、孔城、木崖、樟树等联防大队改为自卫军第一团，由县长范用九兼任团长；东南乡联防大队和警保第六中队改为自卫军第二团，刘东雄任团长；两团共有武装人员3200余人、长短步枪2000余支、机枪20余挺。