邓小平在1975年复出后，开始着手纠正“文化大革命”的错误。他以“消肿”为突破口，抓军队质量建设，抓装备，抓编制。当时，由于军队长时间受到党的“左”倾思想的影响，特别是遭到林彪、江青两个反革命集团的破坏，一方面数量过多，臃肿不堪；另一方面则军事素质较低，在编制、装备、训练等方面，与现代战争的要求，与发达国家的差距越来越大。邓小平指出:“我们存在的一个最大问题，就是军队很臃肿。真正打起仗来，不要说指挥作战，就是疏散也不容易。”为此，他提出:军队要整顿，要消肿，要抓编制，抓装备，抓训练，提高现代化水平。要“减少不必要的非战斗人员。减少统率机构、指挥机构人员，最主要的是减少干部”。领导人民解放军进行大规模的精简整编，这是关系军队全局发展的战略举措。在邓小平的领导下，从1975年至80年代中期连续进行了4次大规模精简整编，一次比一次规模大，一次比一次搞得深刻，直至百万大裁军。

　　【第一次精简整编】

　　1975年6月24日至7月15日，中央军委召开具有历史意义的军委扩大会议，集中讨论和重点解决了压缩军队定额、调整编制体制等重大问题。9月，中央军委批转了《压缩军队定额调整编制体制的方案》。《方案》规定全军总人数精简26.2%。其中:（一）陆军:步兵部队，精简27.3%；工程兵、铁道兵精简最多，两者精简数占陆军兵种部队精简总人数的92.1%；有些部队实行简编，保留技术骨干，减少普通兵员。将县、市中队移交地方公安部门，改为人民警察部队。（二）海军:精简17%。调整基地、舰艇、高射炮兵和航空兵部队的编制体制；将部分工程建筑部队改为基建工程兵性质的部队，不计军队定额。（三）空军:精简16.4%。主要精简机关；空降兵部队实行简编；撤销一部分高射炮兵部队；工程修建部队改为基建工程兵性质的部队，不计军队定额。（四）各军区及其直属单位精简38%。总部及其直属单位精简16.6%。这次精简整编，从1975年第四季度开始。陆军部队和军区机关进行了整编；步兵师整编为满员师和简编师；铁道兵地铁部队、部分工程建筑部队和县、市中队移交给地方有关部门；撤销了部分空军军部、高射炮兵师、地方独立师和步兵师。到1976年，全军总人数比1975年减少13.6%。后来，确定的精简整编任务因受江青反革命集团的干扰破坏，没有完成就停了下来。然而，这一次精简对军队建设产生了深远的影响。