１９１６年，袁世凯洪宪称帝，云南蔡锷首先讨袁，继有广东、贵州、广西等省先后响应，袁世凯被迫取消帝制，但仍留恋总统之职。孙中山先生号召全国军民一致讨袁，陈其美在上海积极行动，遭袁世凯之恨，收买凶手暗杀陈于上海租界寓所，于右任深为悲痛，曾作哭陈其美绝句。陈被害后，更激起全国人民的讨袁浪潮，在四面楚歌之中，袁于６月６日丧命。但北洋势力仍布满全国。孙中山在上海与于右任筹商大计，于鉴于当时时局的迫切，推翻北洋军阀为刻不容缓之大计。他向孙中山建议，先从北方着手，突破北洋势力的核心，南北夹攻，以响应西南讨逆义师。孙中山对其计划表示赞同。于右任主动请缨，冒险入北京，转赴郑州、开封、洛阳等地，联系志士，筹组陕西靖国军。然后深入西安，秘密邀集革命同志及民军领袖。他与胡景翼、张钫、井勿幕等频频筹商，密谋举义。当时陕西督军陈树藩，其虽曾一度反袁，参加护国军，但陈是段祺瑞的学生，因此袁世凯一死，他又复为段的一员大将了。所以，于右任的西安之行，处境非常危险，所负的任务当然没有如意地达到，但为来日陕西靖国军的发展奠定了良好的基础。当于右任再返回上海时，时局越变越坏。５月２９日，北洋系的督军团叛变。６月１２日，黎元洪被迫下令解散国会。７月１日，张勋复辟，段祺瑞乘机东山再起，击败了张勋的辫子军，冯国璋入京代理总统。北方一片大乱，国会议员纷纷南下。８月３１日，在广州举行非常会议。９月１日，选举孙中山为中华民国军政府海陆军大元帅，孙中山开府广州，护法战争揭开序幕。此时于右任入陕之行播下的革命种子，已经生根发芽，开花结果。１９１８年１月，胡景翼、曹世英等人在三原成立靖国军，准备反抗依附于北洋军阀的陕西督军陈树藩，并邀请于右任回陕。于右任颇为振奋，他即日登程，日夜兼程赶赴洛阳后，为确保安全起见，他化装为传教士，渡过黄河，借道山西，绕经陕北宜川、洛川、延长、延安、宜君、耀县，整整走了２０天才到达三原靖国军总部。到达总部后要做的第一件事就是如何把各靖国军部队团结起来，排除分歧，克服松散，消除猜忌，为此他不畏长途跋涉的疲劳，亲赴各部队慰问各军将领和官兵，宣讲孙中山团结一致，共同对敌的革命精神。在他的号召下，各部队相继来投，使陕西靖国军的势力在数日之间剧增。８月，他在各军将领一致拥护下，正式就任陕西靖国军总司令。在就职典礼上，他发表了简短有力的演讲，说，本人以革命党人的身份，为救国家，救桑梓，和诸位同志共生死，同甘苦而来，并不是为了权力名位。本人带给诸位同志的，不是金钱，并非械弹，而是一腔热诚，和中山先生的革命精神。这种革命精神是革命党人的无价瑰宝，一切都不足与比拟。只要大家确切认识，笃实践履，那么，我深信革命必成，强权必败，区区陕乱，不难一举敉平！于右任力统陕西革命军事力量后，又着手建立一个有权威性的总司令部，他请张钫担任副总司令，请英勇善战的胡景翼担任作战总指挥。为了加强领导，他还在总司令部下设了参谋、秘书、军务、军需、军法、副官、财政、教育８个处，并将全军分为７路，每路各设司令一名。他任命郭坚为第一路司令，下辖１０个支队，共５千余人，分驻陕西西部的岐山、凤翔、扶风、武功、兴平、干县。司令部驻扎在凤翔，掌握川陕交通咽喉，防堵甘肃、青海方面的敌军来犯。他任命樊钟秀为第二路司令，下辖２个支队，共３千余人，大都是黄龙山区屯垦的河南民军，骁勇善战。于右任命令他们扼守陕中最富庶的周至、户县一带，进攻时为直取省城西安的左翼，即使按兵不动，也叫陈树藩寝食难安。他任命曹世英为第三路司令，下辖３个支队，共３千余人，驻渭北高陵、淳化、交口、栎阳等地，力扼关中通往陕北的要道，切断西安与渭北大平原的联络。他任命胡景翼为第四路司令，下辖８个支队，共６千人。于右任以这支最大的兵力居中策应，分布在陕西省的心脏地带，整个遮断西安和陕北的联系。他任命高峻为第五路司令，下辖４个支队、共２千余人，驻防陕西东北部的白水、澄城、邻阳、韩城，把守陕东门户。他任命卢占魁为第六路司令，下辖２个支队，共３千人，驻三原、雨金镇等地，于右任把这一路用作机动部队，随时可以支援四方。不久，他又任命王珏为第七路司令，下辖３个支队，共约２千人，驻扎在乾县一带。于右任只身入陕，在他崇高威望的召唤下，各路民军纷纷崛起，竞相投效，他在短短的两个多月中，把这支庞杂而又互相不服气的部队组织起来，又安排得妥妥当当，使千军万马为之佩服，七路人马汇集关中，总兵力超过３万以上，占领全陕１４个县，不仅超过陈树藩、刘镇华所部的总兵力，是陕西辛亥革命以来革命力量之盛。一介书生，叱咤风云，骤然造成了这么大的声势，实为当时很了不起的一个奇迹。因此，孙中山异常高兴，乃委任于右任为陕西督军，命令他逐走陈树藩、刘镇华部，攻占全陕西。

但是，由于非常国会被政学系所利用，改组军政府，实行七总裁制，孙中山虽为七总裁之一，但已辞卸大元帅之职，离开广州经台北、日本赴上海。不过孙中山在离开广州之前，曾经电令滇军总司令唐继尧，黔军总司令王文华，川军石青田、吕超、黄复生，鄂军总司令黎天才，令他们合组四省靖国联军，十路援陕。后因广州局势变化，各路大军纷纷折回，使于右任的陕西靖国军成了一支孤军。虽然时局对于右任极为不利，但他率领孤军奋战，愈战愈勇。曾一度攻克西安，把陈树藩、刘镇华部逼到了渭南数县，与之相峙。１９１８年，南北和议开会。１９１９年，许兰洲领军入陕，对于右任更为不利，但于不畏强敌，坚持战斗。在渐感不支时，曾发函发电孙中山求援，于在孙中山也无力能支援下，在此期间又连遭不测。胡景翼中陈树藩之计被俘，于任命井勿幕继任前敌总指挥，不久井被陈树藩的部将诱杀。加之北洋各军也不断向于右任各部发起进攻。于右任在极艰苦的条件下，仍坚持与北洋军苦斗。不久，北洋内讧，直皖战起，结果是直胜皖败，段祺瑞下野，曹锟、吴佩孚建立了大权在握的直系中央。吴佩孚开府洛阳，整军经武，对于近在肘腑的陕西，自属亟于兼并。

１９２１年春，吴佩孚派二十师师长阎相文率军大举侵陕。陈树藩不服，与阎相文开战，至７月７日陈被击败。８月２３日，冯玉祥又取代了阎相文为陕西督军。当时冯想收编于右任的靖国军。如是冯派代表劝说于，代表到达三原后，谒见于右任，但被于方面拒绝。同年９月２１日，胡景翼在三原召开所谓的国民大会，决定取消陕西靖国军名义，接受直军改编，并且推举于右任为陕西自治筹备会会长。于右任明知局势已无法挽回，唯有付之一笑，对胡景翼等的叩询意见不置一词。于右任本人并不愿意接受直军的改编，更不愿当什么筹备会会长，于是离开了靖国这总司令办公处。

１９２２年，于右任在武功重新部署，将所部分为三路，他任命李夺为第一路司令，杨虎城为第三路司令。于命杨虎城率部直扑直军，冯玉祥以十倍的兵力来了一个包围，杨虎城死战不退，苦战半月，于右任亲率炮兵增援，谁料到他所派的另一支援军麻振武轻敌中伏，叛降冯玉祥。４月初杨虎城弹尽粮绝，下令撤防，退到陕北。于右任还想跟直军作最后的决战。他由一小支骑兵护卫，走岐山，到凤翔。然而，凤翔兵力单薄，陈树藩又已退入四川，再想发动一次攻击都很为难，于右任只好在凤翔城里困守。４月１９日，由于第一次直奉大战即将爆发，吴佩孚命冯玉祥率部开往河南，第一次直奉战争，直胜奉败，冯玉祥任河南督军，陕西督军即由刘镇华继任。而此时陕西境内的靖国军，只剩下几支零零星星的部队。５月３１日，适逢端午佳节，李夺也投降了刘镇华。于右任在凤翔举行了陕西靖国军最后一次会议，决定翌日启程离陕。于右任自１９１８年８月９日就任靖国军总司令之职以来，率领靖国军苦战了３年９个月，独撑危局，以一隅之地，挡住了北洋军６省劲旅的进攻，这是令人难以想象的伟大功绩。更可贵的是，于在数年苦战中，节约军费，创办学校，如渭北中学、渭北师范、三原中学、民治中学、地方自治讲习所等都是他一手创办的。１９２０年，他还延揽我国水利大师李仪祉，创立渭北水利委员会，开筑关中八渠，灌溉万顷良田，造福桑梓，得到了陕西民众的衷心拥护和爱戴。