在适当的时候，叶剑英强烈向张发奎建议将教导团调回广州，加入革命事业。当时的张发奎已经听到了很多关于教导团赤化的消息，在这件事情上很犹豫。但是在叶剑英的强烈建议和个人担保之下，教导团被调了回来。这就是在为广州起义部队做了强有力的准备。

为了表明自己的立场，叶剑英甚至辞去了教导团团长的职位。但是在对教导团的一次演讲中，他暗暗向教导团表明自己的立场。当时教导团里面有很多共产党员，包括营长。之后教导团开始吸纳新党员，进行全方位的战争训练。

最后在合适的时机到来的时候，叶剑英带领教导团全力抗敌。另外广州起义部队的重要力量就是工人赤卫队，将近5000人。