1939年7月，中革军委成立后方勤务部，叶季壮任部长兼政治委员，下辖供给部、卫生部、兵站部等。

1942年，八路军设后方勤务部，下辖供给部、野战卫生部、军工部。

1945年8月，新的中共中央军委成立，设总后方勤务部，杨立三任部长，下辖供给部和总卫生部，主要负责军委直属机关、部队的后勤保障。解放战争时期，在八路军后方勤务部的基础上，组成中央军委后方勤务部。下辖军需供给、兵工机械、兵站运输3个参谋组。

中华人民共和国建立后，1949年11月，中共中央军委总后勤部改称中央人民政府人民革命军事委员会总后方勤务部，杨立三任部长（1952年10月黄克诚任部长），下辖财务、军需、军械、卫生、运输和营房等部门。

1951年10月1日，中央军委决定总后方勤务部军械部改隶军委炮兵建制，称军委军械部。

1954年10月，中央人民政府人民革命军事委员会总后方勤务部改称中国人民解放军总后方勤务部，并增设了司令部。

1957～1958年，将1954年后陆续形成的八总部体制进行调整，恢复三总部体制，总财务部缩编为总后方勤务部财务部；1957年7月，总军械部缩编为总参谋部军械部，1959年3月划归总后方勤务部建制。

1960年，中国人民解放军总后方勤务部改称中国人民解放军总后勤部。中国人民解放军总后勤部下设司令部、政治部和财务、军需物资油料、卫生、军事交通运输、基建营房等业务部，并代管中国人民解放军审计署，辖有后勤部队、分队。

20世纪90年代以来，总后勤部在领导全军进行军事斗争准备中，为保障“打得赢”、实现保障有力，扎扎实实落实各项战备工作。

进入21世纪，总后勤部坚决落实中央军委全面建设现代后勤的指示，以新时期军事战略方针为指导，为建设保障打赢现代化战争的后勤，服务部队现代化建设的后勤、向信息化转型的后勤，实现一体化后勤保障，进行大胆探索和改革，不断取得新的成就。

2016年1月，按照军委管总、战区主战、军种主建的总原则，将总部制改为多部门制，总后勤部改编为军委后勤保障部。

中国人民解放军总后勤部一般设有若干业务部门，并辖有一定数量的后勤保障部队，具有全军后勤组织指挥和勤务保障两大职能。

主要职责是：拟制后勤工作方针、政策、法规和全军后勤建设规划，制定后勤规章和后勤工作计划，并组织实施，监督执行；拟制总后勤部机关及直属单位的组织编制，对全军后勤机关和后勤部队、分队的组织编制提出建议；组织全军后勤战备和后勤动员工作，组织实施战略后勤支援；承办军费的申请、分配，负责总预算、总决算的编制；组织领导全军财务、军需物资油料、卫生、交通运输、基建营房工作；组织领导全军审计监督的日常工作；组织领导全军后勤教育训练、科研和装备管理工作；负责全军职工的归口管理工作；领导和管理总后勤部直属单位。

中国人民解放军总后勤部在建立、健全全军后勤组织机构和规章制度，加强后勤建设方面，在保障全军革命化现代化正规化建设，指挥和管理全军后勤工作方面，取得了显著成就。在遂行解放沿海岛屿、剿匪反特、抗美援朝、历次自卫反击作战和抢险救灾、支援国家经济建设中，胜利地完成了后勤保障任务。随着军队现代化建设和现代战争对后方与后勤保障的依赖性不断增大，总后勤部对加强全军后勤建设和战备建设，提高全军后勤管理水平和应付突发事件的能力，做好反侵略战争中的后勤保障，负有越来越繁重的任务。这对总后勤部自身的组织、业务建设也提出了越来越高的要求。

总后勤部历任部长：杨立三、黄克诚、洪学智、邱会作、张宗逊、张震、洪学智、赵南起、傅全有、王克、廖锡龙、赵克石。

历任政治委员：黄克诚（兼）、余秋里、李聚奎、张池明、郭林祥、王平、洪学智（兼）、刘安元、周克玉、周坤仁、张文台、孙大发、刘源。