1872年3月12日，曾国藩在江宁两江总督官署病故，时年61岁。李鸿章得此噩耗即致书曾国藩的两位公子曾纪泽、曾纪鸿，痛表哀悼。他说：“鸿章从游几三十年，尝谓在诸门人中受知最早、最深，亦最亲切。”在给他人的信中，李鸿章的悲哀之情也流露无余。他在挽联中痛悼：“师事近三十年，薪尽火传，筑室忝为门生长；威名震九万里，内安外攘，旷世难逢天下才。”他的哀痛无疑是发自内心的，因为曾国藩对他确有“知遇之恩”。但曾、李关系却并非如此简单，而是极其复杂：由师生、主宾变为上下、同级，可谓多重。儒家有“一日为师终身为父”的“师生之伦”，他们都以儒学正统自居，自然要践行“师生之伦”；但后来又是官场中的上下级乃至平行同级的官员，各有各的利益需要维护，不免也有矛盾。如何处理师生伦理与现实的官场逻辑，颇为微妙。当然，作为洋务派的领袖，他们在维护洋务派和“地方”利益方面，与顽固派的斗争中、与“中央”的博弈中更多地是互相支持，彼此引为奥援，总体而言配合不错。因此，将曾、李关系全面梳理一下，确是饶有趣味之事。
    曾李关系可追溯到李鸿章的父亲李文安与曾国藩的交往。李文安与曾国藩同是戊戌年(1838)进士，因此有“同年”之谊。李鸿章在未中进士之前，与其兄李瀚章都曾以“年家子”身份投靠曾国藩门下，拜曾为师，学习八股文、试帖诗和“义理经世之学”。1845年李鸿章参加恩科会试，曾国藩出任本科会试同考官。李鸿章虽然没有考中，但诗文却得到曾的赏识。李鸿章在给母亲的信中说自己“以诗文受知于曾夫子，因师事之，而朝夕过从，求义理经世之学”。曾国藩稍后对李瀚章说，这时他就感到李鸿章“其才可大用”。后来李鸿章在翰林院学习任职期间仍常向曾请教。1853年，李鸿章之兄李瀚章进入曾国藩幕府，襄办湘军粮台，而李鸿章则回到安徽老家帮办团练，镇压太平军。
    几年下来，本想大有一番作为的李鸿章却被太平军打得一败涂地，落魄潦倒之际以“书剑飘零旧酒徒”自嘲，在走投无路的情况下于1858年底来到江西曾国藩大营，想入曾幕。对李鸿章的才识，曾早有所知，但认为他性情不稳，妄自尊大，所以故意不见他。一个多月后，李鸿章又托人说情，曾国藩说道：李鸿章也是翰林，志大才高，我这里局面窄狭、只是一条浅沟，容不下他这条大船呀，他何不回京供职？经反复说情，李鸿章终在1859年1月入曾国藩幕，成为曾的幕宾。其实，曾国藩并非不想要他，只是想打一打他的傲气，让他更加内敛沉稳。
    在曾国藩幕，李鸿章办理行文、批阅公文，起草书牍、奏章。曾国藩最负盛名的参折《参翁同书片》，即出自李鸿章之手。任安徽巡抚的翁同书是咸丰皇帝和恭亲王的老师，历任工部、户部尚书翁心存长子，其弟即大名鼎鼎的翁同龢。这道参折指责翁同书举措不当、守城不力、弃城而逃，应予严惩。以翁家的权势，要将其扳倒谈何容易，所以曾国藩极其重视，要文案房多拟几份草稿备选。在好几份草稿中，他选中李鸿章稿。如此重要之折，却只区区不到六百字，可谓字字千钧，句句见血。此折历数翁同书忠奸不辨、误用歹人、措置失当、贪生怕死、连失两城的罪状，然后指出翁的几道奏折的自相矛盾之处，反驳他的种种自辩，令其无继续辩解的任何余地。此折最后写道：翁同书有如此行为“岂宜逍遥法外？应请旨即将翁同书革职拿问，敕下王大臣九卿会同刑部议罪，以肃军纪而昭炯戒。臣职分所在，例应纠参，不敢因翁同书之门第鼎盛瞻顾迁就”。一句“不敢因翁同书之门第鼎盛瞻顾迁就”，即将朝廷因翁同书之“门第鼎盛”本想“瞻顾迁就”从轻发落的“后路”封死，委实老辣。朝廷只得并不情愿地按规定将翁同书判“拟斩监候”。所以曾国藩称赞说：“少荃天资于公牍最相近，所拟奏咨函批，皆有大过人处，将来建树非凡，或竟青出于蓝，亦未可知。”而李鸿章也向人表示自己从前也辅佐过其他将帅，但“芒无指归”，入曾幕才“如识南针，获益匪浅”。
    曾国藩生活极有规律，每天很早就起床查营，然后在黎明时分与幕僚共进早餐，或谈一天工作安排或随意谈天说地。初到曾国藩幕时，比较懒散的李鸿章很不适应这种规律、刻板的生活，深以为苦。一天早晨，他以头痛为名想多睡一会儿，但曾国藩知道他是装病多睡，所以几次派人请李鸿章起来一起吃饭，最后告李必须所有幕僚全都到齐才开饭，李鸿章匆忙披衣“踉跄前往”。曾国藩吃饭时一言不发，饭后严肃地教训他说：“少荃，既入我幕，我有言相告，此处所尚，惟一‘诚’字而已。”说罢生气地拂袖而去，李鸿章“为之悚然”。曾国藩素知李鸿章“才气不羁”，故对他要求格外严格，尽力雕琢，陶冶其性情，培养其道德。许多年后，李鸿章对人回忆说：“在营中时，我老师总要等我辈大家同时吃饭；饭罢后，即围坐谈论，证经论史，娓娓不倦，都是于学问经济有益实用的话。吃一顿饭，胜过上一回课。”
    在曾幕，李鸿章不仅仅是起草文牍，而是参与重要军机。如1860年9月，英法联军攻占天津，直逼北京城下，咸丰皇帝在逃往热河途中命孤驻祁门的曾国藩派湘军精锐鲍超部北上救援。接到命令后，曾国藩左右为难，举棋不定。北上“勤王”责无旁贷，如不北上护主，将被责为天下罪人；但此时正是剿杀太平军的关键时刻，一旦抽掉精锐，于战局大有影响，而且这时正值徽州失守、祁门危急之时。曾国藩急得几个晚上不能入眠，于是令下属每人提一方案，结果几乎都主张北上“勤王”，但只有李鸿章力排众议，不同意调兵北上。李鸿章认为英法联军已在北京城下，破城而入只是朝夕之事，调兵北上保卫京城已毫无意义；而且英法联军侵略最终将“金帛议和”了事，真正威胁清王朝的还是太平军。李鸿章比清廷更早看出这一点，眼光确非寻常。他进一步论述湘军镇压太平军是关系“天下安危”之事，对北上驶援应“按兵请旨”，静观局势变化。经过仔细权衡，曾认为李说确有道理，于是采用此议。他上疏朝廷表示愿意北上，但提出鲍超人生地不熟“断不能至”，所以请朝廷在胡林翼和自己之间“酌派一人进京护卫根本”，其实是在拖延时间，因为往返奏报大约需要一个月的时间。果然不出所料，不久就接到“和议”已成，不必北援的命令。此事使曾对李更加器重。李鸿章对曾虽以师相待，但他毕竟是极有主见之人，经常因固执己见而时有冲突，曾有几次想离曾而去。1860年曾国藩升任两江总督、并决定将大营迁往安徽祁门时，李鸿章认为祁门地势如同“釜底”，没有进退余地，从战略上看移营至此十分危险。在太平军攻击下，的确险情不断，李鸿章等人一再要求移师他处。而曾国藩坚持己见，甚至对李鸿章等人说：“诸君如胆怯，可各散去”。不久，双方又因李元度事件矛盾再起，更加尖锐，终导致李鸿章负气出走。早在1853年曾国藩筹建湘军时，正在湖南做教谕的李元度就入曾幕，参赞军务。在湘军最初屡打败仗的艰苦岁月中，曾得到李元度的有力支持。当年湘军在江西战场数度为太平军大败，曾国藩两次想跳水自杀，李元度将其劝阻，可谓曾的恩人。在曾国藩的举荐下，李元度升任徽宁池太广道，驻防徽州。但由于他不听曾国藩的命令，打了败仗，徽州城为太平军所克，祁门更加危险。李元度乱中逃生，在浙赣边界游荡一段时间后又回到曾幕，但并不束身待罪，而是不久又径自离去。凡此种种，曾国藩决定具疏弹劾，以申军纪。李鸿章却率众人坚决反对，认为李元度在曾国藩最困难时期有恩于曾，这些年不少人借故离去，但李元度对曾的支持和忠诚始终不渝，因此指责曾国藩现在是忘恩负义。曾国藩则认为私情不能代替军纪，坚持弹劾。最后，李鸿章坦率对曾国藩说：“果必奏劾，门生不敢拟稿。”曾国藩回答说：“我自属稿。”李鸿章表示：“若此，则门生亦将告辞，不能留待矣。”曾国藩生气地说：“听君之便。”于是李鸿章扬长而去，离开曾幕，前往江西准备独自闯荡一番。此事使曾大为恼火，认为李鸿章不明大义，不达事理，在自己困难时借故离去，得出“此君难与共患难”之结论。此事也使李鸿章愤怒异常，他对人说自己原认为曾国藩为豪杰之士，能容纳不同意见、各种人物，“今乃知非也”。李鸿章在江西并不顺利，而经过胡林翼、沈葆桢等人的调和，曾国藩还是听从了李鸿章的建议离开祁门移师东流。李鸿章其实也想再回曾国藩幕，在曾国藩进攻安庆连获胜仗后，便写信致贺。以曾的历练，一眼便知此是回心转意的试探，便捐弃前嫌，写信邀其回营。李鸿章在江西混了七八个月后，这匹“好马”也吃“回头草”，再回曾幕。