1938年1月，邓小平接替一位病重的同志，出任一二九师政治委员。邓小平在一二九师一直工作到战争结束。这个师大约有13000兵力，主要是由张国焘领导的红四方面军的余部组成。因此该师的士气可能要比八路军其他两个师低。
一二九师的师长是刘伯承，和邓小平同乡，也是四川人，是个终身职业军人。他生于1892年，比邓小平大12岁。他在20世纪20年代初参加共产党之前，是个川军军官。1927年八一南昌起义后，他被中共派往苏联，在红军学院学习了三年。长征时任红一军团参谋长。在战术问题上，他没有和其他指挥员特别是林彪、彭德怀发生争论。他一只眼睛失明，所以总是戴着一副眼镜。他是军人中的军人，深受部下爱戴，他似乎有自己的处事原则，不愿过问政治。他和邓小平合作得很好。多少年后邓小平在官方出版的他的传记中说，人们习惯把“刘邓”连在一起，这一点也邓小平同一二九师师长刘伯承在一起。不错，“在我们两人心里也觉得彼此难以分开”。
邓小平到一二九师时，该师已深入太行山区。太行山位于山西东南部，“山高势险”，“易守难攻”。
事实上日本人并没有企图进攻太行山。1937年11月攻占省会太原后，日本人集中设防于从北、南、东通往太原的铁路线。依托山区，刘邓开始建立根据地，并考虑如何处理日军侵略后山西省的形势。当时，省主席已经跑了，地方政府也已瓦解，未被日军占领的地区则到处是国民党军队的逃兵。
在此后的两年中，即1938年和1939年，刘邓致力于根据地建设和军队建设，避免同日军遭遇。他们巩固了太行山根据地，并且在山西的中部山区创建了另一块根据地。随后又在日本人控制的平汉铁路以东的华北平原上建立了两块根据地。在各个根据地，他们招募和训练了两种后备军：一种是脱产的地方部队，只在当地活动；另一种是半脱产的民兵，配合地方武装打游击。这些地方武装也为一二九师提供了兵源。
1940年，刘邓发动攻势，先是抗击国民党军，然后抗击日本侵略军。这年3月，他们抗击了进犯太行根据地的国民党军队。这些军队奉蒋介石之命试图在除共产党控制的陕甘宁以外的许多地方重建国民党政权。刘邓击退了他们，然后又击退了配合中央军行动的地方军阀阎锡山的部队。这些胜利在边区内外给1938年1月，邓小平策马奔赴太行前线。
他们在政治上提供了更多自由活动的空间。
刘邓的胜利鼓舞了在山西的所有共产党指挥员抗击日军侵略的信心和勇气。不管有没有在延安的毛泽东的军事委员会的指示，他们都制订了攻击华北铁路沿线日军据点的计划，并且封锁和分割了日军占领的铁路线。这个攻击计划在8月底开始实施，持续了三个多月。开始时共产党投入了22个团，大约4万人的兵力，后来当战役规模扩大到包括进攻其他日本驻军，以及日军开始发动反攻时，中国共产党投入的兵力增加了5倍，有105个团，总兵力达到20多万人。
这就是著名的“百团大战”。百团大战带来的结果是双面的，它导致山西、河北日军的通信中断了几个星期，中共部队占领了多个城镇，使得全国的民心、士气为之一振，因为自从1938年秋日本人占领汉口和广州后，国民党军队在华中和华南一直处于守势，一些城镇沦陷、失守的坏消息接连不断，充斥一时。另一方面，百团大战也把八路军的实力暴露给了日军，日军必然要报复；同时也把自己暴露给了国民党，使国民党了解到共产党在根据地1938年，邓小平（左一）和朱德（左三）、刘伯承（中）一起研究作战计划。
和军队建设方面取得了相当的成功。在延安的毛泽东看到国民党的报纸上公开宣传这一战役时，反应不佳。
据说，他对这次战役行动大为不满。关于此役，八路军前线指挥员彭德怀后来在回忆录中写道，他比原计划提前10天下达了战斗命令，因此没有征得延安方面的同意。这一做法令毛泽东很生气。毛泽东认为像彭德怀以及其他有关人包括邓小平在内，在战役第一阶段取得成功后扩大战役规模，投入20万兵力实施中心进攻是过于鲁莽。彭德怀还写道，当他们胜利的消息传到延安时，毛泽东发给他一封贺电。但这封贺电可能是庆贺他们第一阶段取得的胜利。5年后的1945年夏天，在延安的一次会议上，彭德怀还是因此事受到了批评。今天对百团大战是肯定的。在官方出版的邓小平的传记中关于此战役有两句话：
同年8月起，刘伯承和邓小平率领所部38个团（未包括地方部队）参加“百团大战”，进行大小战斗529次，给日、伪军很大打击，鼓舞了全国人民的信心。
不过，接下去的第一句话却是：“1941年华北敌后的抗战进入了最艰苦的阶段，日本侵略军将侵华重点转到敌后”。文中并没有把这种转变归咎于这次战役，但也没有做其他任何解释。
百团大战以后的两年，对华北所有的根据地来说的确是最困难的两年。1941年12月太平洋战争爆发后，日军并没有减少他们在中国的军队，反而决定要消灭根据地内所有中国共产党的军队，消除共产党的影响。在“杀光、烧光、抢光”的军令下，日军在扫荡地区一次待上几个星期或几个月，不管你是共产党人还是普通老百姓，一律格杀勿论。日军在这些地区进行多次大屠杀，把田里的庄稼放火烧掉，储藏的食物不是被毁就是被抢，到了1942年年底，华北平原地区的根据地，包括一二九师创建的两块，已经没有共产党控制的任何武装了。在山区，共产党在“百团大战”中占领的许多城镇也丢失了。
正是在山西东部荒凉的山区过着艰苦生活的这个时期，最先构成了邓小平成熟形象的清晰画面。他的一些演说与文章，开始出现在中共公布的档案记录中。
从他留学法国以来，第一次出现了许多有关他的逸闻故事。
邓小平的个子不高，大约在他前往法国留学时，就已经不再长高了。他身高只有5英尺，他后来说这是因为他在法国吃不饱的缘故。但更确切地说是因为遗传。他的父亲个子就不高，他的子女也都不高。邓小平还不到中年就长得很粗壮了，他脖子虽短，肩却很宽，脸盘宽而方，有坚毅的下颏和一双比大多数中国人更为深邃的眼睛。
和许多个子不高的人一样，邓小平动作敏捷，精力旺盛，身体也很好，除了在长征结束时患过一次伤寒外，在青年和中年时期，即使在广西和山西那些地方病流行的地区长时间生活，他也从未生过病。从某个时期开始，他烟瘾很大，这一点他不像周恩来而像毛泽东。但从来也没有听说过，抽烟给他的身体带来什么副作用。
邓小平脾气不好，经常发怒。虽然他很早就学会如何控制自己的脾气，但并没有太大效果，而且有时候，他还故意让自己的怒气表现出来。后来，他成为国家领导人后，他的同事和属下都很害怕他发脾气。
由于天生的坏脾气，邓小平也天生没有耐性，但他总是在采取行动之前，做一番审慎的思考。而且只有在下级对某些决策拖着不办时，他才会公开表示不满。
邓小平天资聪明。他在晚年的讲话和谈话中谈到教育问题时，曾不止一次地对自己在16岁时就中断学业表示遗憾。他是一个出色的政治和军事分析家。不论是在口头上还是在书面上，他的报告都很清楚，有条理。在《邓小平文选》第一卷中收有9篇他20世纪40年代初期的讲话1940年4月，邓小平在山西黎城会议上做报告。（徐肖冰摄）和文章，这些讲话和文章虽然看起来平铺直叙、有些平淡，但却很有说服力。这表明邓小平思想坚定，能很好地抓住论点，处理和解决问题不墨守成规。他重视事实和数字，并且努力学习，使自己成为贸易税收方面的专家，而这些是他从未涉及过的。但是，对于一二九师在1941年开辟的根据地，以及他和刘伯承在这些根据地上所建立的边区政府的生存，却是生死攸关的。他处理所有经济工作的原则是：“限制过去残酷剥削的程度……但鼓励资本主义生产，这在目前对发展国民经济是有益的。”他的这段话有两个重要特征：第一，是他对“资本主义生产”
没有委婉其词；第二，他在“有益的”前面加上“目前”这个词，这就清楚地说明共产主义并不会永远容忍资本主义。
1943年年初，日军对根据地的压力开始减轻。共产党抓住这个机会开始向外发展，除了恢复老的革命根据地之外，还开辟了新的根据地，特别是在山东。邓小平在指导开辟这一地区的进程中担负了重要责任。1943年下半年，华北根据地的三位高级指挥员彭德怀、刘伯承和聂荣臻奉命回延安，邓小平接替彭德怀担任中共北方局代理书记，同时主持八路军总部的日常工作，指挥大约30万正规军和数量相当的地方部队。
