对于组建自己的军队，孙中山早就有这打算。直接原因，恐怕还是陈炯明的叛变导致他在海上待了几十天，加上滇军、湘军、福军并不是特别听他的指挥。所以他就筹谋建立了黄埔军校，然后再计划以军校的资源为基础组建属于自己的部队。

　　早期的时候孙中山本来是打算组建一个超大编制的部队。一个师三个团，一个团六个营，一个营六个连，一个连三个排，一个排三个班。这编制估计算得上当时最大的师级编制，比所谓的三旅九团制都要大，所以这个方案一提出来就被其他人否了。理由也很简单没钱，也没人，当时广东革命政府控制的地区还不到广东省的一半，税赋大多也被滇军等军阀截留，哪有那么多钱来完成这么大一个编制！

　　见这个编制不能实行，孙中山虽然有所失望，但还是决定先编练一个团看看效果，这也就是正在筹备的教导团。教导团的低级军官都是以军校毕业生，也就是黄埔一期毕业生中成绩优良的学生担任；中上级军官则是由出色的军校教官为主。至于普通士兵则是从浙江、江苏、安徽等地招募而来。

　　11月20日，在孙中山离开广州出发去北京的第二个月，中国国民党陆军军官学校教导团正式成立，老蒋代孙中山授予首任团长