李鸿章在曾国藩府上还没有待满一年，曾国藩就将主持编练皖北马队的任务交给他，并且要在湘军的领导下统一行事。编练马队的建议，是由左宗棠提议的。左宗棠是湖南湘阴人，字季高，开始时在湖南巡抚骆秉璋幕下做事，后来成为了湘军的首领之一。左宗棠提出的编练马队的建议，曾国藩曾与胡林翼一起协商。胡林翼在当时任湖北巡抚，他也是湘军的二号人物。在胡氏的支持下，曾国藩给朝廷呈上了一张奏折，虽然清政府同意了曾国藩编练马队的请求，但是在马匹上又有所限制。在朝廷的命令下，曾国藩只得委曲求全，先招五百进行操练，如果可行就再续招三千。李鸿章担心自己经验不足，因此不敢答应曾国藩交给他的编练马队的任务。为这件事情，李鸿章专程赶到南昌与哥哥商量。在哥哥李瀚章的赞成下，李鸿章接受了曾国藩这一命令。李鸿章派专人至淮上招募马勇。但是当时太平军和捻军协同作战，声势浩大，清军只有被动挨打的分。动荡的局势让招募马勇之人空手而归，曾国藩组建马队的计划也就此流产。
1859年6月，在抚州镇守的曾国藩，知道太平军正在猛攻景德镇，由于担心湘军张运兰部不敌，匆忙之中派曾国荃赶往救援，李鸿章也一同随往。李鸿章心高气盛很想独自带兵不愿意寄人篱下，因此心情压抑，想要离开。曾国藩知道李鸿章的心思，但是他是赏识李鸿章之才而不满其骄奢之气，因此以各种方式进行劝说挽留。李鸿章在老师的劝说下，只能跟随曾国荃一起去支援张运兰部。