陈玉成率部退守庐州，是基于两点原因：

一是安庆是陈玉成的大本营，同时也是南京的屏障，如今安庆被清军攻占，陈玉成时刻都想着重新夺回来安庆，甚至是整个安徽。如果此时退防南京，那么他夺回安庆的梦想就彻底的化为了泡影。所以退回庐州，陈玉成也有把庐州经营为根据地，伺机夺回安庆的打算。

二是安庆解围，太平军全线战败，陈玉成是总指挥，这个责任他难辞其咎。而且洪秀全在这件事上，非常严厉的处罚了陈玉成，甚至是革职留任查看，太平军内部对于陈玉成也议论纷纷。在这种情况下，陈玉成是打心眼里是非常反感回防南京的。

但接连的斥责之声并没有打击到陈玉成，反而激起了陈玉成的斗志。尽管援救安庆的战况打的一败涂地，好在年轻气盛的陈玉成似乎也并没有丧失斗志，对于今后的战争走势，陈玉成一直坚信太平军依然可以背水一战，扭转败局，一扫现在的颓败之势。所以在这个情况下，陈玉成自认为如果退守南京，那么不如退守庐州，庐州是太平军重要的囤粮基地之一，庐州的战略地位也很重要。在那个粮食可以左右战局的年代，陈玉成认为只有守住粮仓，这个仗才有可能翻盘。

但实际上陈玉成率部退防庐州之后，就发现庐州的情况并没有他设想中的那么乐观。首先就是陈玉成之前设想的“粮仓”化为了泡影，他惊讶的发现庐州的粮食并不充足。其次就是庐州的兵源已经接近枯竭，根本不足以和清军打持久战，甚至是反攻。那么显然庐州并不是陈玉成理想中的“根据地”。

所以陈玉成只得派陈德才、赖文光等人远赴河南、陕西招兵买马，顺便征集军粮。

此时的陈玉成的处境已经非常艰难，首先是多隆阿亲率大军已经尾随紧逼着陈玉成，兵临庐州城下，如何防守庐州成了陈玉成最为头痛的问题。

城内粮草不足、兵员素质差。由于太平军前线战事一败涂地，再加上孤立无援，西征大军和捻军根本无暇顾及庐州战事，庐州的情况已然非常糟糕，根本不足以和士气正盛的清军决战，而且敌众我寡，陈玉成自己也没有把握可以完全击溃多隆阿部清军。而如果不能尽快击溃多隆阿，城内的粮草已经不多，这个持久战陈玉成根本打不起。

1862年5月，清军在多隆阿、袁甲三的指挥下，步炮协同对庐州发动了总攻。清军炮火凌厉异常，陈玉成眼见大势已去，西征大军、捻军的救援又无望，而庐州又被清军围的水泄不通，只得打算率部弃城，突围后与远征的西北军会师，以后再图东山再起。

和苗沛霖、多隆阿、胡林翼、李续宜相比，陈玉成归根结底还是太年轻了，被反复无常的小人苗沛霖上了一课，被俘后旋即被清军斩杀，以振军心，年仅26岁。