李鸿章在曾国藩府上还没有待满一年,曾国藩就将主持编练皖北马队的任务交给他,并且要在湘军的领导下统一行事。编练马队的建议,是由左宗棠提议的。左宗棠是湖南湘阴人,字季高,开始时在湖南巡抚骆秉璋幕下做事,后来成为了湘军的首领之一。左宗棠提出的编练马队的建议,曾国藩曾与胡林翼一起协商。胡林翼在当时任湖北巡抚,他也是湘军的二号人物。在胡氏的支持下,曾国藩给朝廷呈上了一张奏折,虽然清政府同意了曾国藩编练马队的请求,但是在马匹上又有所限制。在朝廷的命令下,曾国藩只得委曲求全,先招五百进行操练,如果可行就再续招三千。李鸿章担心自己经验不足,因此不敢答应曾国藩交给他的编练马队的任务。为这件事情,李鸿章专程赶到南昌与哥哥商量。在哥哥李瀚章的赞成下,李鸿章接受了曾国藩这一命令。李鸿章派专人至淮上招募马勇。但是当时太平军和捻军协同作战,声势浩大,清军只有被动挨打的分。动荡的局势让招募马勇之人空手而归,曾国藩组建马队的计划也就此流产。
1859年6月,在抚州镇守的曾国藩,知道太平军正在猛攻景德镇,由于担心湘军张运兰部不敌,匆忙之中派曾国荃赶往救援,李鸿章也一同随往。李鸿章心高气盛很想独自带兵不愿意寄人篱下,因此心情压抑,想要离开。曾国藩知道李鸿章的心思,但是他是赏识李鸿章之才而不满其骄奢之气,因此以各种方式进行劝说挽留。李鸿章在老师的劝说下,只能跟随曾国荃一起去支援张运兰部。