軍委秘書長(zhǎng)一職不算是我軍的常設(shè)重要職務(wù)，它在1954年9月30日增設(shè)，由副總參謀長(zhǎng)兼總后部長(zhǎng)、政委黃克誠(chéng)擔(dān)任。它是中央專為黃克誠(chéng)增設(shè)的，便于黃協(xié)助彭德懷主持軍委日常工作。

2個(gè)月后，毛主席、鄧小平和后來被授予元帥軍銜的十人，共十二人組成軍委會(huì)。軍委會(huì)成立后，毛主席召開第一次軍委會(huì)議，正式把軍隊(duì)工作交給常務(wù)副主席彭德懷主持，重大問題則由軍委開會(huì)決定。

可黃克誠(chéng)的軍委委員身份，還是1956年11月，跟粟裕、陳賡、譚政、肖勁光、王樹聲、許光達(dá)、肖華、劉亞樓、洪學(xué)智一同獲得的。但是，之前的黃克誠(chéng)雖不是軍委委員，軍委工作卻比大多數(shù)軍委委員做的多。

被提為軍委秘書長(zhǎng)的同時(shí)，黃克誠(chéng)還新增國(guó)防部第一副部長(zhǎng)的職務(wù)——國(guó)防部長(zhǎng)就是彭德懷。當(dāng)時(shí)國(guó)防部和總參謀部之間存在權(quán)責(zé)不明的問題，兩大軍事部門的頭頭彭德懷和粟裕，也是合作得相當(dāng)不愉快。

彭德懷上任國(guó)防部之前，軍隊(duì)的許多工作都是由總參謀部來進(jìn)行的；后來彭德懷上任國(guó)防部長(zhǎng)，自然不可能干看著，就做個(gè)泥胎木塑的菩薩。

更何況，毛主席明確安排彭德懷負(fù)責(zé)軍委日常工作，如果主要工作由總參謀部做了，那他還負(fù)什么責(zé)。但是呢，很多工作又不可能繞開總參謀部，所以就有了軍委秘書長(zhǎng)一職，編制上黃克誠(chéng)成為彭德懷的下級(jí)和主要助手，黃就這樣成了彭在總參謀部的“抓手”。

黃克誠(chéng)做軍委秘書長(zhǎng)時(shí)，在軍隊(duì)中的地位多高，通過毛主席在1958年年中的軍委擴(kuò)大會(huì)上的一段講話內(nèi)容可以看出：“講責(zé)任，第一是我，第二是彭德懷，第三恐怕是黃老（即黃克誠(chéng)），因?yàn)樗敲貢L(zhǎng)。”

這時(shí)候在國(guó)防部長(zhǎng)彭德懷的領(lǐng)導(dǎo)下，總參謀長(zhǎng)粟裕的地位和權(quán)力遠(yuǎn)不及兼軍委秘書長(zhǎng)的副總參謀長(zhǎng)黃克誠(chéng)的。

廬山會(huì)議之后，彭德懷、黃克誠(chéng)下臺(tái)，羅瑞卿（兩次擔(dān)任，76年后還擔(dān)任過一次，協(xié)助鄧小平處理軍委工作）、葉劍英、耿飚、楊尚昆、楊白冰五人擔(dān)任軍委秘書長(zhǎng)一職。無論是59年到65年，還是77年到78年（78年在歐洲猝然離世），羅瑞卿擔(dān)任軍委秘書長(zhǎng)這個(gè)職務(wù)期間，軍委秘書長(zhǎng)的權(quán)力都達(dá)到了史無前例的頂峰。

59年到65年，羅瑞卿是總參謀長(zhǎng)、軍委秘書長(zhǎng)一肩挑，權(quán)力高度集中。通過總參謀長(zhǎng)的職務(wù)，軍委秘書長(zhǎng)的實(shí)權(quán)得到極大的強(qiáng)化。可以說，從設(shè)立軍委秘書長(zhǎng)這一職務(wù)開始，其權(quán)力和地位就在不斷上升，最后到92年不再設(shè)該職。

鄧小平兩次擔(dān)任總參謀長(zhǎng)一職，第一次是1975年1月到1976年4月，第二次是1977年7月到1980年3月。他擔(dān)任總參謀長(zhǎng)時(shí)期，軍委秘書長(zhǎng)的地位、權(quán)力肯定是比不過他這個(gè)總參謀長(zhǎng)的，但這跟總參謀長(zhǎng)這一職務(wù)沒什么關(guān)系，主要是鄧小平這個(gè)人，他很特殊。1952年7月，作為二野政委的他離開地方和軍隊(duì)，進(jìn)入中央，從事行政工作，一直到1967年。這是其他總參謀長(zhǎng)所沒有的經(jīng)歷。

1975年1月到1976年4月，鄧小平擔(dān)任總參謀長(zhǎng)時(shí)，歷經(jīng)波折的葉劍英大概還兼著軍委秘書長(zhǎng)職務(wù)（沒有明確撤去或任命），并主持軍委日常工作，但是這個(gè)軍委秘書長(zhǎng)職務(wù)功能漸漸淡去，葉在全力支持鄧進(jìn)行整頓工作。