老洋人杆匪在新蔡县盘下后，他便找来几十名精明强悍的蹚将，令他们装扮成客商、小贩模样，各人给了一些银钱自去置办行头、货物，如此这般地交代一番之后，让他们离去。11月2日夜，老洋人大队人马来到皖西重镇阜阳县城下。
阜阳是皖系军阀、原安徽省督军兼省长倪嗣冲的老家。倪嗣冲从1913年起就在安徽担任最高地方长官，被封为安武上将军，所部称为安武军。至1920年直皖战争中皖系失败，他才避居天津。这些年中，他搜刮了大量的民脂民膏，在阜阳开了倪萃恒、倪瑞恒两家钱庄。他的女婿、现任皖南镇守使兼第三混成旅旅长的王普也在这里开了一家汇昌和钱庄。县城里驻有安武军一个团，团长倪金镛是倪嗣冲本族子弟；另有一个地方保安团，团长倪道煦则是倪嗣冲的亲侄子。
这天中午，倪道煦在城内请“花会”，满城有头脸的人物都到场。妓女们个个打扮得花枝招展，忸怩作态，笑语盈盈，官员士绅们倚红偎翠，丑态百出。晚间，两台大戏同时开场：德胜楼唱《九江口》，得月楼唱《白马坡》。
戏刚开场，城外的安武军营长派人送信说，老洋人直奔阜阳城而来。听戏的士绅们认为，城内有两团士兵，土匪乌合之众何能轻易攻得进来。但他们哪里知道，安武军的倪金镛团长到乡间去购买田地，至今未回；而保安团的倪道煦团长花会之后，即挟了两名妓女鏖战多时，此刻正在温柔乡中酣睡哩。
驻防的士兵只是依例派人上城值勤而已。
“城上的士兵兄弟听着，我们是老洋人的杆子。今夜想在阜阳城盘下，请你们打开城门！”城南门外，一个大嗓门的土匪隐在暗处对着城墙上喊道。
“不行啊！”城上有人答话，“咱们井水不犯河水，你们还是走吧！”
“都是扛枪吃粮的，是朋友就帮个忙！要多少开门钱，咱照给！”大嗓门继续喊道。
城上城下，言来语去，过了好一会儿，渐渐变得粗野起来，于是开始对骂。听到一些戏滤或荤话，匪群中不时发出阵阵哄笑。突然，城上打下来一梭子机枪，打得泥土直溅。城下土匪也开始向上打枪，双方便交上火了。相互射击不多一会儿，城内火光顿起，传出一片混乱嘈杂之声，城门被打开了。
原来老洋人派遣的土匪，假扮客商小贩，早已暗携武器，在白天混入城内，此时听见枪响，便乘机动作起来。于是，杆匪大批人马顺利进城。
杆匪们由南向北，沿街见门就砸；砸开后，便放手抢劫；有时，抢罢还放火烧屋。他们进入各大商店后，便把在店的职工抓来，讯问大洋和烟土藏在何处。倪萃恒、倪瑞恒两家钱庄经理不在，汇昌和的经理爬到屋顶躲着，匪徒们就到处敲打，排仓库。排到之后，他们砸开库门，将白的、黑的一掠而空。
在一家茶庄，匪徒排到经理家的两名姨太太。一名姓张的匪首当众就在二人身上摸摸捏捏。一名老职工忍不住说了一声：“造孽啊！”
匪首大发雷霆：“你们在这看什么？”
厉声喝令全体滚蛋。
老洋人在阜阳不仅搜掠到大批银元、烟土，更大的收获是得到了倪嗣冲藏匿的大批武器——3000多支步枪、13挺机枪、200多万发子弹，甚至还有几门大炮。这对于经过长途跋涉、艰苦战斗的蹚将们来说，无疑是比什么都更宝贵的。临行前，他们还架走了县知事陈祖荫，王普的五弟，阜阳天主教堂神父、意大利人马福波，以及一批男女肉票。
后来，王普的五弟在土匪逃跑时，被带往河南，家人用1000块大洋赎回。
汇昌和钱庄的职员常兴周也被架往河南，因家境不宽，无法筹措1000元，白天被逼着帮助匪徒挑抬赃物，晚上则被吊打、灌辣椒水，两条腿肿得老粗。
后来他谎称近日将送钱来赎，得免再打，遂乘乱逃出。60多名花票被土匪带往豫西，根据家境分别勒赎万元、数千元不等，最低的也需500大洋。有钱人家派人从阜阳到豫西去赎，至于那些城市贫民无钱赎人，最后只得将亲生女儿弃置不顾。
匪徒开始在城南搜劫时，城北尚无动静，保安团士兵正准备集合早操，见有难民跑来，便问何事，得知土匪进城后，竟一古脑儿往北门外溜走。团长倪道煦在睡梦中，连衣裳也未穿好，被两名勤务兵架起来就逃。安武军驻军也早逃之夭夭。直到4日，曾任安武军统领、现任安徽督军马联甲，闻报老上司家乡遭匪，才急令皖北镇守使殷恭先率领25个营的官兵大举进剿。
老洋人见官军人多势众，情知不敌，便下令连夜纵火焚烧阜阳城。一时间，城内火光冲天，在商民一片哭喊声中，数千名杆匪背着、抬着劫掠的财物离开阜阳，于5日拂晓返回河南境内。
随后数日内，土匪士气大振，先克息县，架走基督教牧师、美国人巴牧林父子；再陷正阳县，架走基督教伦敦会牧师、英国人贺尔门；继而掘断京汉铁路明港至信阳的一段铁轨；然后沿京汉线北上，相继攻下遂平、郾城等县。每当遇到官兵围剿时，老洋人就下令将抓来的真洋人推向第一线，迫使官兵们不敢开枪，眼睁睁地望着匪徒们呼啸而去。