1904年，阎锡山到日本留学，进了日本陆军士官学校第六期学习。他接受了革命思想，1905年10月加入同盟会。那时候，他就显示出老于世故的一面。1909年，阎锡山从陆军士官学校毕业回国，很快当上山西新军的标统(相当于上校团长)。他常挂在嘴边的话是：“事到危难宜放胆，人非知己莫谈心。”

　　1911年10月10日，辛亥革命爆发。10月28日，阎锡山发动太原起义，杀死山西巡抚陆钟琦，成立了山西军政府，自己当了都督。阎锡山的同学程潜说，阎“在日本留学时成绩平常，土气十足，谁知回国后，瞬间驰名全国，是日本留学生回国后在政坛上表现最为辉煌的人物”。

　　气死袁世凯，耍弄蒋介石

　　阎锡山识时务，也擅长耍手段，连一代枭雄袁世凯也被他耍得团团转。

　　1912年，袁世凯当了大总统，对手握重兵的山西都督阎锡山很不放心，就设了一计，致电阎锡山说：“绥西有个土匪王英，老是没能消灭。请督军您亲自率部队去清剿。”同时，老袁派人赶到石家庄，一旦阎锡山违令，马上发兵直捣太原。阎锡山接到电报后，征求下属意见，大家都说让堂堂督军去剿匪，实在欺人太甚，不应理睬。阎锡山想了半天，判断袁世凯是在找茬儿，如果违命，凶多吉少。他马上回电：“即日率部清剿。”袁世凯收到回电，喜形于色地说：“就算我的亲儿子，也不过就这么听话吧。”袁世凯判断阎锡山懦弱无能，把他视为亲信。

　　后来，袁世凯称帝，阎锡山表示坚决拥戴，还送了两万大洋。不过，他一方面对袁世凯惟命是从，另一方面又与南方反袁的革命党人互通声气。等袁世凯大势已去，阎锡山就翻脸了，命令大军向北开进，随后给袁世凯发电报：“我军北驶，已抵保定。”袁世凯接到电报，大吃一惊：阎锡山这不是要杀向北京吗?此时才明白过来的袁世凯，一病不起。所以后来人们说，阎锡山一封电报，气死了袁世凯。

　　阎锡山和蒋介石的交往，也耍了很多心眼。1929年，湖南军阀唐生智发动反对蒋介石的战争，派阎锡山的老同学袁士权去拉阎入伙。两人见面一谈，阎锡山一口答应。而此时，蒋介石也派阎的老同学何成浚到山西游说。阎锡山却故意冷淡，言谈间频频表示对蒋介石的不满，以增加谈判筹码。讨价还价后，双方商定，蒋介石把冀察两省和平津两市交给阎锡山，再拨军费300万元。1930年1月3日，阎锡山亲赴郑州，指挥讨伐唐生智。老同学袁士权如梦方醒，此后终生不问政治。而蒋介石听了何成浚汇报的谈判经过后，冷冷地说：“打完唐生智，再打阎锡山!”

　　1930年4月，以蒋介石为一方，阎锡山和冯玉祥为另一方的中原大战爆发，阎锡山兵败下野。只是后来蒋介石出于稳定山西政局的需要，重新任用了阎锡山。但两人还是貌合神离。传说有一年，蒋介石要到太原视察，阎锡山与幕僚讨论在哪里接待，有人说在运城，阎心想：“运城和‘运成’谐音，让你蒋介石‘运成’，我不是要倒霉吗?”他就改在一个叫“介休”的地方接待——让你“介石”在此“休矣”。1934年11月，蒋介石到太原，得知阎锡山的父亲阎书堂生病了，蒋介石为了笼络阎锡山，特意去阎家探望阎老太爷。没想到蒋介石这一探望，阎老太爷的病日益沉重，过了一个月就去世了。据说，阎老太爷是怕蒋介石来抓他儿子，被活活吓死了。

　　1935年后，红军、蒋介石的中央军和日军都到了山西。阎锡山说：“我要在三个‘鸡蛋’(蒋介石、共产党、日本人)上跳舞，踩破哪个都不行。”他盘算：蒋介石是自己的头号政敌，不能让蒋插手山西;日本要灭亡中国，不能不抵抗;中共和红军暂时威胁不了自己，可以利用。因此他产生了“联共抗日”的想法。但阎锡山也说：“我们和共产党合作，等于玩老虎，玩好了它可为我所用，玩不好它会吃掉我们。”到1940年，在日军压力下，阎锡山开始转向“联日反共”。解放战争中，阎锡山反共很是积极。