1998年4月3日，中央军委决定设立组建人民解放军总装备部，全面负责全军武器装备建设的集中统一领导，促进国防和军队现代化建设。1999年1月8日，中共中央总书记、国家主席、中央军委主席江泽民在接见出席总装备部第一次党委扩大会议代表时说，我国的国防科技和武器装备建设事业，已经走过了40多年光辉历程。过去，我们在那么艰苦的条件下，搞出了“两弹一星”，为保障国家安全、提高我国的国际地位奠定了重要基础。现在，我们的经济实力、科技水平和工业基础有了很大发展，装备管理体制基本理顺，比起过去来，条件有了很大的改善，应该有信心创造新的更大的成绩。

军队武器装备的高科技化，是当今世界军事发展的一个重要趋势。我国国防和军队现代化建设面临着难得的机遇，也面临着严峻的挑战。国防科技和武器装备发展是衡量国防实力的重要标志，对一个国家、一支军队来说极为重要。

江主席强调，我们要立足现有装备打仗，树立以劣势装备战胜优势装备之敌的信心。同时，我们也要加强武器装备建设，努力提高武器装备的高科技含量增强应付未来高技术战争的物质技术基础。我们下决心成立总装备部，调整改革武器装备管理体制，加强武器装备建设的集中统一领导，就是为了迎接世界军事变革的挑战，加快我军武器装备现代化建设的步伐。

江主席希望总装备部认真贯彻新时期军事战略方针，坚持以武器装备现代化建设为中心，一手抓新型武器装备发展，一手抓现有武器装备管理，尽快开创我军武器装备建设的新局面。要集中力量办大事，迅速集中必要的人力、财力、物力，并形成统一指挥、统一调度、分工合作，同舟共济，提高我军在高技术条件的作战能力。

首任总装备部部长是曹刚川上将，政委李继耐。