Atatürk'ün düzenli bir devlet ordusu kurma çabalarının karşısındaki bir başka engel de "Yeşil Ordu"ydu. Bu Meclis'in oluşmasından sonra Ankara'da kurulan, bir tür "gizli örgüt" olarak yaygınlık kazanan bir "milis" gücüydü. Ve yer yer dinsel ve Halife yanlısı tutumlar takınan sonradan M. Kemal'e cephe alarak faaliyet gösteren derneğe Atatürk kapattırdı, ancak dernek üyelerinin yıkıcı faaliyetleri sürüp gitti.
