当韩复榘主鲁时派兵进剿收效甚微后改剿为托于一九三二年二月将刘黑七部调往长清、高唐、夏津一带改编为“山东警备军”韩复榘任总指挥刘黑七任副总指挥但不到半年刘黑七又不听调遣并于同年窜入河北在霸县挖了韩复榘的祖坟后入热河打败了汤玉麟的省防军强驻开鲁、林西一带
一九三三年春日军攻陷热河刘黑七见日军气威遂降日被委任为第三路军总指挥下辖三个军曾配合日寇茂木骑兵旅团侵占沽源等地同年八月又通电参加冯玉祥、吉鸿昌的抗日同盟睪被委任为第十七军军长曾參加收复多伦等地的战斗九月同盟军失败刘部又被何应钦收编任察东剿匪司令
一九三四年二月由于同汤玉磷冲突部队哗变刘黑七又率部南窜至鲁西后又窜河南山西与军阀刘柱国混战又复东向与刘峙部接战后于同年三月一天 窜鲁西欲二次回鲁南老巢时韩复榘仍主鲁因与刘黑七有不解之仇蒋介石亦令韩复榘严剿故不待刘黑七返鲁南韩复榘即动用五个师的大部和民团围追堵截欲求全歼
梁山战歼其百余人郓城一战歼其七十复窜汶上安驾庄长清均遭反复拦击刘黑七匪残部化整为零潜入山中
韩复榘乃发通缉令悬赏缉拿刘匪经莱芜、蒙阴一带期潜回老巢入沂水境遭堵击窜莒县又被歼五十陷重围突围后向南窜江苏复受合击乃再入山东破重围后经莒县入诸城欲到青岛补给立遭沈鸿烈堵击乃转高密又遭联庄会伏击；复回诸城走莒县入日照折回莒县屡遭袭击匪部溃败复入江苏赣榆朱汪被王佐良迎击再返山东向莒县流窜沿途又多次遭痛击死伤殆尽
刘黑七见大势巳去即将余部交“师长”刘怀志带领（后瓦解）刘黑七于四月二十二日只身从海上逃往天津在日租里潜居韩复绢得知后曾派人刺杀但仅伤其嘴和脚同年秋刘伤愈后两次曾想联络旧部起事末成
翌年秋亲自到宣化刘德胜部网罗人马发展至三千多人
一九三四年春刘黑七又窜回了山东当时的山东省主席韩复榘决心重兵追剿灭掉刘黑七韩复榘在泰安北张夏车站亲自督战住在铁甲车上
刘黑七所部伤亡很大刘黑七把所部分成了四路过了铁路刘黑七的最后一股土匪是从韩复榘铁甲车下边的桥洞中乘黑夜通过的刘黑七被追剿到诸成后遭受了伏击被打伤了肚子但沒有被打断肠子
这时刘黑七把残兵分为两路一路蹿至安邱南部经沂山准备回蒙山一路沿海南去日照经过莒南北部想蹿回蒙山潜伏起來待机來一个东山再起刘黑七本人绕道赣榆在赣榆当地大土匪头子黄泥头（张星三）的帮助下由红石崖乘帆船至青岛秘密住在四川路的一家棚户里枪伤使他的肚子肿了待了半个月微露出两个子弹头刘黑七自己用一个铁夹子硬把子弹拔了出來又养了几天秘密到天津日租界去了
一九三五年的冬初当日本人在华北成立傀垒政府在蒙古利用封建王爷德王、云王等闹****在冀北以殷如耕为首成立“冀东政府”之际刘黑七又活动起來他从天津卫到了宣化大力招集散兵游勇以及小股土匪半年时间又纠集了四千多人
自从“七七”事变爆发刘黑七认为机会又到了于是他便跟着日寇开进了山东渡黄河转胶东在掖县、平度一带休整
不久刘黑七“反正”了刘黑七于三六年初再次回天津投靠日本帝国主义“七七”事变后刘收拢旧部准备为日军效力日寇沿津浦路向山东进攻时刘黑七被委任为“皇协军前进总司令”率部跟随日寇三次回山东始驻鲁北后转胶东在掖县、即墨等地招兵买马到这三八年又扩充至三千多因向赣榆进攻时被东北军五十七万毅等团和赣榆榆地方军民打败后对小鬼支援不力很是恼火
由于这个原因也就不大服从小鬼子在临沂战场上的指挥了又由于战场的混乱从而发生了互击和械斗几乎被解除武装乃于年底撤出胶东打着“反正抗日办的旗号开进鲁中山区被国民党苏鲁战区司令于学忠改编为“新编第三十六师”刘又重新当上国民党的师长
一九三九年春刘黑七部移驻其老家费南、凝北（今平邑县）地区时当地已由八路军、**建立了抗日根据地因值国共合作抗日时期对刘部的政策是：“欢迎抗日”但这个家伙并非真心抗日主要想争取时间站稳脚根当其实力扩展至八千多人修好碉堡之后其真面目就暴露出來
一九四零年三月十日刘黑七派其参谋长与日寇密谈并联合国民党顽固派干起进攻八路军残害抗日群众的勾当
柘沟一仗八路军津浦支队三团二百余名指战员遭杀害；费县二区遭袭区中队和工作干部五十多人遇难；鲁南三区为保护干校转移一百二十多人战死被刘匪残害的**八路军地方干部和革命群众也不少仅在大井村处就被活埋二百多人
刘匪自发迹之日起到一四三年的二十八年间所到之处无不烧杀淫掠干尽坏事绑票不赎者杀摊派粮款枪械不交者杀且不分男女老幼常常成村地毁灭成批地杀头其杀人手段极其凶恶：刀刺、活埋、放血花、劈腿上碾压、烧上身、铡铡、石头砸脑袋等等惨不忍睹令人发指；被其奸污的妇女更是不计其数
据不完全统计仅刘匪两次盘据鲁南的八年间被其洗劫的村庄即达一千三百多个烧掉的房屋二十三万多间被杀群众一万五千余人特别是当刘桂棠被日寇委为伪“和平救**”第十军第三师师长后得到日军的了五百多万元军饷资助之时更为猖獗当地人民无不对其狼