由于家境贫困，左宗棠在城南书院只呆了一年。第二年，即道光十一年（1831）他又进入湖南巡抚吴荣光在省城长沙设立的湘水校经堂。这所学校给学生提供膳食，吴荣光还亲自到校教授经学。左宗棠学习刻苦，成绩优异，在这年的考试中七次名列第一。
道光十二年（1832）四月，三年一届的湖南省乡试又将来临。这时，左宗棠已居忧期满，但由于在居忧期间不能参加院试，还没有取得秀才的资格，不能参加乡试。21岁的左宗棠迫不得已，便东挪西凑，筹集到百两银子，捐了个监生，才与哥哥宗植一道参加了这次有5000多人投考的湖南乡试。
乡试在八月举行，共考了三场。考完之后，贺熙龄特意去看了左宗棠的试卷，并为之叫好，但说可惜格式不太适合，恐怕考官们“无能辨此”。果然，他的卷子被斥入“遗卷”，落选了。但这次乡试恰逢道光皇帝50寿辰，称为“万寿恩科”。因此，道光皇帝下诏命考官搜阅“遗卷”，以示“恩宠”。正巧，湖南副考官胡鉴病逝，只得由主考官徐法绩来办。徐法绩独自一人，阅看了5000多份“遗卷”，从中又取出六名，其中第一名就是左宗棠。当试卷启封时，巡抚吴荣光正在场监临，一见左宗棠名列“搜遗”之首，连忙起身祝贺徐法绩得了人才。
不久，榜发，左氏兄弟双双中举，哥哥左宗植中第一名，得解元；弟弟左宗棠中第18名。
乡试后，左宗棠与湘潭周诒端喜结良缘。周夫人字筠心，与左宗棠同年生。出生于湘潭辰山一书香门第，家境富有，父亲周衡在已去世，母亲王太夫人知书能诗、慈祥和蔼。周夫人自幼随母读书，不仅能作诗，而且性情贤淑。这门亲事，早在左宗棠的父亲和长兄在世时就订下了，只因家贫，一直没有举办。时至两人都已21岁，不能再拖，左宗棠只好来湘潭就婚，入赘岳家，后来在这里寄居了九年。
婚后，左宗棠和周诒端伉俪情深、夫妻恩爱。岳母也很喜欢这位才华横溢的郎婿。但左宗棠生性高傲，对自己婚后不能自立，颇为苦闷，后来他回忆起这段生活时曾说：“余居妇家，耻不能自食”，又有诗云：
九年寄眷住湘潭，庑下栖迟赘客惭。
这年冬天，左宗棠与宗植启行北上，准备参加来年春季的会试，次年初，抵达北京。会试在三月举行，兄弟俩便住在专门接待湖南来京应试举人的湖南会馆，紧张地温习功课。但发榜之时，左宗棠却名落孙山。
回到湖南，左宗棠仍寄居湘潭岳家。这年八月，长女孝瑜出世，左宗棠便向岳母家借得几间房子，自立门户。
道光十五年（1835），左宗棠再次赴京会试。这次考试，他的成绩不错，不仅同考官温葆深极力推荐，会试总裁也很赞赏，均言：“立言有体，不蔓不支”、“二场尤为出色”，准备取为第15名。但不幸在揭晓时，发现湖南取中的名额已超过一名，而湖北省却少取了一名，于是将左宗棠的试卷撤去，改换为湖北省一人，左宗棠只被录取为“誊录”。誊录是一种抄抄写写的文职人员，积劳议功，可以保举县令。但左宗棠不甘心在京城当一名誊录，以待发迹，不久即回家中。
道光十七年（1837），应巡抚吴荣光的邀请，左宗棠离家到醴陵主讲渌江书院。该书院有住读生童60余人，但收入却很微薄，几乎朝不保夕。
不久，时任两江总督的陶澍阅兵江西，顺道回乡（湖南安化）省墓，途经醴陵。陶澍是当时赫赫有名的封疆大吏，嘉庆、道光年间，连任两江总督十余年。任职期间，他在林则徐、贺长龄、魏源、包世臣等的协助下，大力兴利除弊，整顿漕运，兴修水利，改革盐败，因而政绩卓著，深得时誉。陶澍出身贫寒，“少负经世志”，又是当时经世致用之学的代表人物。他敢于正视现实，关心民生，揭露封建衰世的黑暗和腐败，要求改革内政，主张严禁鸦片，加强军备，防御外敌入侵。
陶澍的到来，醴陵县令自然要竭力款待，大事欢迎，为其准备了下榻的馆舍，并请渌江书院山长左宗棠书写楹联，以表欢迎。左宗棠崇尚经世致用之学，对陶澍等也早有了解，十分崇敬，于是挥笔写下一幅对联：
春殿语从容，廿载家山印心石在；
大江流日夜，八州子弟翘首公归。
这幅对联，表达了故乡人对陶澍的景仰和欢迎之情，又道出了陶澍一生中最为得意的一段经历。一年多前（即道光十五年十一月底），道光皇帝在北京皇宫连续14次召见陶澍，并亲笔为其幼年读书的“印心石屋”题写匾额。印心石屋是以屋前潭中有一印心石而得名。这件事，朝野相传，极为羡慕，陶澍也自认是“旷代之荣”。因此当他看到这幅楹联后，极为赏识，询知是左宗棠所作，便立即约请相见，“一见目为奇才，纵论古今，为留一宿”。为此，陶澍还特意推迟归期一天，于次日与左宗棠周游醴陵，极为融洽，成为忘年之交。
道光十八年（1838），左宗棠第三次赴京会试，结果又不中。南归途中，他绕道去南京谒见陶澍。陶澍并不以左宗棠的连连落第为意。他格外热诚，留其在总督节署中住了十多天，“日使幕友、亲故与相谈论”。一天，陶澍主动提议将他唯一的儿子（时仅五岁）陶桄，与左宗棠五岁的长女孝瑜定婚。当时，陶澍已六十岁，左宗棠才二十七岁。然左宗棠为避“攀高门”之嫌，以亲家地位、门第、名位不合而婉言谢绝。陶澍一听，爽朗笑道：“左君不必介意，以君之才，将来名位一定高于吾人之上”，仍然坚持原议。但左宗棠又以“年庚不合”相辞，联姻之议遂被搁置。直到几年后，陶澍去世，由于陶夫人一再提及，加之老师贺熙龄的敦促，这门亲事才定了下来。陶澍以一代名臣之尊，而求婚于一个会试下第的穷举人，表明他对左宗棠才学与人品的器重。
左宗棠在六年中三试不第，对他是个很大的打击。他虽然并不十分热衷于科场，不喜欢也不长于作空洞枯涩的八股文章。但在科举时代，读书人不中科举就难以进身，有志之士也只有通过科举获取地位，才能实践其志。左宗棠后来说过：“读书非为科名计，然非科名不能自养。”又说：“读书当为经世之学，科名特进身阶耳。”左宗棠自少年时代就志大言大，尤为自负，自尊心也很强，因此三试不第之后，就下决心不再参加会试，从此“绝意仕进”，打算“长为农夫没世”。
在他第一次赴京会试时，曾去拜访过在詹事府任詹事的胡达源，并结识了后来也成为清朝“中兴”名臣的人物——胡达源之子胡林翼。
左家和胡家原是世交。胡达源，湖南益阳人，早年曾与左宗棠的父亲左观澜同读书于长沙岳麓书院，交往密切，感情弥笃。而胡林翼与左宗棠同年、同学，后来又成了亲戚。他出生于嘉庆十七年（1812）六月，比左宗棠大四个月，后来也在贺熙龄门下求学。他自幼聪明异常，8岁时就被陶澍看中，招为女婿。少年时代，他常随岳父住在两江督署，风流倜傥，才华横溢，也深受陶澍、林则徐等人的影响，有匡时济世之志。
左宗棠与胡林翼一见如故，意气相投，从此成为莫逆之交。两人在一起谈古论今，朝政腐败、官吏无能、民生困苦和西方各国的侵逼，无所不及，都预感到天下将要大乱。为此，二人“辄相与欷虚欠太息，引为深忧。”以致时人均为之诧异，不知他们为何忧叹。
道光十九年（1839）六月，陶澍在南京逝世，家眷迁回安化。次年，左宗棠受老师贺熙龄之托，就馆陶家，教其子陶桄读书，达八年之久。
陶家藏书丰富，使左宗棠在教读之余得以博览群书。一方面，他对《古今图书集成》中的《康熙舆图》和《乾隆内府舆图》悉心考索，订正了昔年所绘舆图。另一方面，他又在这里钻研了有关荒政、水利、盐政、漕运的学问，特别是钻研了当时已成为突出需要的兵学和洋务之学。
道光二十三年（1843），左宗棠以历年教书的积蓄在湘阴东乡柳家冲买下田土70亩，并自己设计、建造了一座小庄园。庄园内除了稻田外，还有坡地和池塘，为安全起见，还筑了围墙，挖了壕沟。又在庄园门上，亲笔题上“柳庄”二字。次年九月，周夫人带着三个女儿从湘潭迁来。至此，左宗棠正式有了个家，结束了长期寄居岳家的“入赘”生活。但这时，他仍在陶府执教，因而每当散馆回家，就“巡行陇亩”、“督工耕作”。几年后，他们又生了一个女孩、二个男孩，至此，全家九口，诗书为伴，耕读相从，岳母也常常带着孙儿来探望女儿和外孙。阖家欢聚，尽享天伦之乐。
然而，左宗棠一刻也没有将自己置身于“世外桃源”，他的眼睛还在关注着这个急剧变化的时代，忧国忧民的心愿始终没有泯没。在这期间，胡林翼因父忧归里，几次来安化岳父家。胡林翼虽然中举比左宗棠迟了二年，却已于道光十六年（1836）考中进士，授翰林院编修，还任过江南副考官。左宗棠在安化陶家得与胡林翼再次相会，两人风雨连床，纵谈古今大政，以至通宵达旦。
道光二十九年（1849），左宗棠离开安化，来到长沙开馆授徒。女婿陶桄仍跟他学习。此外还有长沙名流黄冕的三个儿子和益阳名宦周振之之子周开锡与之受教。
就在这年，发生了一件左宗棠一生认为“第一荣幸”的事。这年十一月，云贵总督林则徐因病开缺，途经贵州、湖南，回福建原籍养病。林则徐在鸦片战争中革职以后，遣戍新疆。道光二十五年（1845）释还，署陕甘总督，次年任陕西巡抚，二十七年升任云贵总督。作为一代名臣，林则徐威望卓著，忠心耿耿，尽管在革职流放中，也始终不忘国事。在新疆，他极力讲求防边强边之策，大力倡导屯田，兴修水利。在云南，整顿矿政，努力加强民族团结。由于历尽艰辛，身患重病，乃奏请开缺，回乡调治。
林则徐的官船经洞庭湖沿湘江上行，于十一月二十一日到达长沙，停靠在湘江岸边。湖南的文武官员知道后，都纷纷赶来拜会这位名满天下的大臣。但林则徐却想起了一位从未谋面的书生——左宗棠，便立即派人去湘阴柳庄邀请。
左宗棠接到来信，兴奋不已。林则徐是他素所钦仰的伟人，能得到他的邀请，与他会面，这确实是一件十分荣幸的事。早在青少年时，左宗棠就从贺长龄、贺熙龄兄弟和陶澍、胡林翼等口中听到过林则徐的事迹，后来在小淹陶家读过陶、林的往返书信，已经了解到林则徐是一位学识渊博、才力超群、操守清廉的官员。鸦片战争中，林则徐卓越的爱国精神和伟大人格，使左宗棠为之倾倒，对之崇敬和向往之极。他在给胡林翼的信中，曾表达了这一心情。他说：“天下士粗通道理者，类知宫保（指林则徐），仆久蛰狭乡，颇厌声闻，宫保无从知仆，然自十数年来闻诸师友所称述，暨观宫保陶文毅（指陶澍）往复收疏与文毅私所记载数呈，仆则实有知公之深。”
林则徐对左宗棠也并非陌生。他与贺长龄曾经是陶澍的属下，又早与胡林翼有过密切交往。陶、林、贺等志同道合，经常一起谈论天下大事、评品古今人才，自然早就知道陶、贺、胡等人对左宗棠的推重。就在一年前，胡林翼任贵州安顺知府时，还一再向林则徐推荐：“湘阴左君有异才，品学为湘中士类第一。”林则徐听后马上就要胡林翼写信，请左宗堂来云贵总督幕府。但当时，因左宗棠已受长嫂之托要为长兄的遗子世延办理婚事，又已接受陶家课读的聘约，不能前往，因而回信婉辞，表示“西望滇池，孤怀怅结”，深为遗憾。
左宗棠接到信后马上赶到了长沙。船到岸时，只见江岸上轿马纷纷攘攘。林则徐见其家人递上一张写有：“湖南举人左宗棠”的大红拜贴后，便急忙叫快请至家中，同时吩咐对其他来客一概挡驾。左宗棠匆匆忙忙地上到林则徐乘坐的船上，待过板时，也许因为心情激动，不慎一脚踏空，落入水中。及至船仓盥洗更衣后，便立刻与林则徐畅谈起来。天色近晚时，林则徐命将官船乘着湘江乱流，驶到岳麓山下一个僻静处停泊。随后，船中烛火通明，林则徐设酒宴款待左宗棠，两人一边喝酒，一边纵谈天下古今大事。
两人就天下大势到西北塞防与东南海防，从舆地兵法到办理洋务，从新疆屯田水利到滇中战乱，无不各抒己见。双方对治理国家的根本大计，特别是西北军政事务，见解不谋而合。两人，一个是年逾花甲、名震中外的封疆大吏；一个是年方37岁的草野书生，毫无拘束，侃侃而谈，直到第二天清晨。后来左宗棠回忆起这段难忘的夜话湘舟时，说两人“抗谈今昔，江风吹浪，柁楼竟夕有声，与船窗人语互相应答，曙鼓欲严，始各别去”。
会见中，林则徐将自己在新疆整理的宝贵资料，全部交付给左宗棠，并说：“吾老矣，空有御俄之志，终无成就之日。数年来留心人才，欲将此重任托付。”他还说，将来“东南洋夷，能御之者或有人；西定新疆，舍君莫属。以吾数年心血，献给足下，或许将来治疆用得着”。
临别时，林则徐还写了一幅对联赠给左宗棠：
此地有崇山峻岭，茂林修竹；
是能读三坟五典，八索九丘。
表达了他对左宗棠殷切的期望。
后来，林则徐还多次与人谈起这次会见，极口称赞左宗棠是“非凡之才”、“绝世奇才”。
这次会见，是两人神交已久的第一次，也是最后一次，但对左宗棠的影响却是重大的。二十多年后，左宗棠经营西北，收复新疆、建置行省、屯田垦荒、兴修水利；在东南沿海编练渔团、创办船政、加强海防、抗击外侵，均是林则徐影响所致。
林则徐回到福建后，并没能休养多久。第二年，广西爆发天地会起义。清廷又起用其为钦差大臣前往镇压。但他刚到潮州时，却突然染病去世。在临终前，他还没有忘记左宗棠，命次子聪彝向咸丰皇帝代写遗疏，在疏中还一再推荐左宗棠为难得人才。
一个月后，正是左宗棠与林则徐会见一周年的日子，左宗棠在长沙黄冕寓馆中听到这一噩耗后，“且骇且痛，相对失声”。哀恸之余，他给林公子写了一封情意深重的言函，并写联一首：
附公者不皆君子，间公者必是小人，忧国如家，二百余年遗直在；
庙堂倚之为长城，草野望之若时雨，出师未捷，八千里路大星殒。
这幅著名的挽联，后来书刻在福州西湖林文忠公祠堂（林则徐逝世后，谥文忠）。
诸葛亮自比管、乐，左宗棠则自比诸葛亮，与人书信常以“亮”、“小亮”、“今亮”落款。绝意科场后，他在寻找更大的机会。他两次出山，应聘张亮基和骆秉章幕府，充当“军师”的经历，与诸葛亮有某些相似之处。
