光绪二十六年，唐才常在南方成立自立会，组建自立军，计划以武汉为中心，在湖北、安徽、湖南等省发动起义。蔡锷参加了自立会，并在起义前夕回国。唐才常以其年轻，派他回湖南捎信予黄忠浩，促其响应。但起义失败，唐才常等被捕遇害。蔡锷幸免于难，重返日本。
为实现救国救民的抱负，蔡锷于自立军起义失败后，决心改习军事。自此他改名锷，立志“流血救民” 。光绪二十七年，他自费考进陆军成城学校。次年七月毕业后，曾以候补生投日本仙台骑兵第二联队实习。十月，又自费考入东京陆军士官学校第三期。因成绩优异，不久改为官费生。
蔡锷在成城、士官学校学习期间，积极参与留日学生的政治活动。光绪二十八年冬，黄兴、杨毓麟等创办湖南编译社，发刊《游学译编》杂志，他积极协助工作。 曾撰《致湖南士绅书》，力主效仿日本明治维新推行改革。同年，梁启超在横滨创刊《新民丛报》，他曾入社襄理笔政，并在该报发表长篇政论文章《军国民篇》。文章写道：中国“今日之病，在国力孱弱，生气消沉，扶之不能止其颠，肩之不能止其坠。奋翮生曰：居今日而不以军国民主义普及四万万，则中国其真亡矣！”又说：人有灵魂，国有国魂，“苟丧厥魂，即陷灭亡”。“故欲建造军国民，必先陶铸国魂。国魂者，国家建立之大纲，国民自尊自立之种子”，如日本之武士道。但对于中国的国魂为何物？他闪烁其词：“欲于四千年汉族历史中，搜索一吾种绝无仅有之特色，以认为吾族国魂，盖杳乎其不可得矣。……然而吾脑质中，有一国魂在。”研究者认为他指的就是军国民主义。 这一时期，蔡锷曾用蔡孟博、奋翮生、劫火仙等笔名。