通过中山舰事件和《整理党务案》，蒋介石逐走了自己的对手汪精卫，适度扼制了中共在国民党内喧宾夺主、咄咄逼人的态势。中山舰事件之后，苏俄军事顾问团主张妥协退让，主张满足蒋介石追求个人尊荣的欲望，协助他取得“比较现实更为伟大之权力与实力”，其具体位置即为国民革命军总司令。6月1日，蒋介石当选为国民党中央组织部部长。4日，国民党中央政治委员会及国民政府任命蒋介石为国民革命军总司令。蒋介石奉命后，着手组建总司令部：参谋长李济深，副参谋长白崇禧，秘书长邵力子，兵站总监俞飞鹏，政治部主任邓演达。6月29日，国民党中央党部召开会议，决定应蒋介石的要求，赋予总司令部以特权，可以监督、检查和支配宣传、印刷、运输机关，并指导农会、工会、商会、学生会等各民众团体。7月2日，公布总司令部组织大纲。大纲规定：凡国民政府下之陆、海、空各军，均归总司令统辖；总司令兼任军事委员会主席；出征动员令下达后，即进入战事状态，凡国民政府所属军民财政各机关，均须受总司令之指挥，秉其意旨办理各事。