但是，因为利益关系，二人之间磨擦不断，常常在背后互相攻击，说对方长短。后来，彭玉麟索性向朝廷上了一奏，说刘坤一整天沉溺于财色享乐，以致体弱多病，对于公事已是置之度外，沿江的军事设施，早已不能使用了。在刘坤一的家中，除了女人欢乐的笑声，什么正事都没有。他的属下几个月都见不上他一面，更谈不上共商防备大事了。
两宫太后看了折子之后，立即召来军机大臣商议如何处理，又广泛听取朝臣意见。众人道：
“刘大人与彭大人矛盾日久，彭大人如此这般上奏刘大人，刘大人若知道了，也会投桃报李。
这，不足为奇，不能当作参劾刘大人的依据。”
“二位大人都是朝廷要臣，朝廷要慎重行事。若是说起家中内事，哪位大人府里不是三妻四妾？谁又与快乐有仇？”
“是啊！朝廷不必让他们斗下去了，斗大了，对双方都没有好处，两败俱伤，只能减少朝廷的要臣！”
当时，张之洞和其他清流人物上疏朝廷。朝廷并未采取什么惩治二人的措施，而是把刘坤一召回朝廷任京官养老，彭玉麟接任其职，任两江总督。