当陈调元在抱犊崮为收编孙美瑶而大显身手时，在他的管区内，早已是匪警频传了。这一带的土匪受孙美瑶大胆之举的影响，又因陈调元不在徐州，所以匪势顿时炽烈起来。陈调元返回后，山东方面曾多次派人请他再去善后，他都坚决不应。他认为，夏季即将来临，各地青纱帐起，徐海各地土匪猖獗的势头如不及早打击，后患无穷。因此，他召来部属，专心布置徐海地区的剿匪事宜。
徐州地区的土匪活动范围，大致可分徐州以东、以西两块。徐州以东，从邳县经东海县，到海州、赣榆县一线，往北与山东省著名匪区膝县、峄县、郯城、临沂等县相连。土匪利用两省防兵配合不协调的空子，在苏鲁交界的山中建立巢穴，在几个县内往来奔突，官兵无可奈何。陈调元回徐州后不久，苏、鲁两省即商定，任命陈为苏鲁剿匪总司令，统一协调两省剿匪军事。
徐州以西地区的土匪往北可窜山东曹县、单县、微山湖，往南可入安徽毫县、涡阳、蒙城、滩溪、宿县，往西则可达河南永城、鹿邑等县。而这些外省各县也都是匪患频仍之地，外省码子也时时进入徐州地区，给这里制造些麻烦。为平定这四省毗连地区的匪祸，1923年8月，经直系军阀吴佩孚提议，设立苏鲁皖豫四省剿匪司令部，9月初，由陈调元出任司令，大举剿匪。