馮國璋如願以償做了大總統，可謂志得意滿風光無限。但很快他便發現面臨一道取捨難題——要不要赴京任職。
在馮府的大會客廳里，馮國璋和親信們圍繞這個問題展開了爭論，竟為此分成了兩派。馮國璋的夫人周砥及女婿陳之驥等人都反對馮國璋離開南京。
「大人的江山是靠手裡的軍隊得來的，若離開南京，就等於失去了地盤和軍隊。沒有了靠山，當了代總統又如何，還不是像黎黃陂一樣受制於段合肥。」
馮國璋的參謀長師景雲等人則對此持反對意見：
「黎黃陂手無寸兵，怎能與大人相提並論。大人即使離開江蘇，也還有實力強大的軍事後盾。以大人之才，斷不會一輩子偏居一隅，如今正是入主中樞，名正言順擴充勢力的大好時機，大人萬萬不能錯過。」
馮國璋本來患得患失，猶豫不決，經雙方一說，更加拿不定主意。就在這時，段祺瑞的特派代表靳雲鵬來到南京，力勸馮國璋北上任職，以壯大北洋聲勢，靳雲鵬還鄭重承諾：「芝老有言在先，此次組閣，都由馮大人做主，芝老絕無異議。」
靳雲鵬是段祺瑞的心腹部下、皖系「四大金剛」之一，他的話馮國璋沒有理由懷疑。但馮國璋猶嫌不夠，又提出調任其親信原江西督軍李純接任江蘇督軍。南京是他的大本營，他必須將江蘇牢牢控制在自己人手中；又提出由另一位親信陸軍中將、第十二師師長陳光遠繼任江西督軍；加上湖北督軍王占元，在長江流域構成強大的勢力範圍，這就是馮國璋出任總統後其最為有力的軍事奧援——「長江三督」。
段祺瑞本想讓自己的心腹段芝貴接任江蘇督軍，為了督促馮國璋早日進京履職，只好打消了這個念頭。但作為交換條件，段祺瑞提出，讓段芝貴出任京畿警備總司令，原陸軍部次長、皖系「四大金剛」之一傅良佐，出任湖南督軍，吳光新出任長江上游總司令兼四川查辦使。
雙方協調一致，馮國璋即登車北上，於1917年8月1日到達北京。在車站，段祺瑞率軍政要員恭候迎接。兩人見面，像久別重逢的兄弟，久久熱烈握手，顯得異常親熱。8月3日，馮國璋登門拜訪段祺瑞，隨後一起去看望「北洋三傑」之一的王士珍。
「北洋三傑」重聚一起，三人感慨萬千。王士珍由於參加了張勳的復辟活動，面對兩位「再造共和」的袍澤故舊，深感慚愧，已提出辭去參謀總長一職。馮國璋挽留說：
「聘卿，咱們三人自打小站分手，走到一起不容易，如今都一把年紀了，難得有這個緣分，留下吧！」
「總統的好意我領了，只是……」
「啥總統不總統的。」馮國璋打斷王士珍的話，「我們三兄弟沒有總統、總理、總長之分，我們三位一體，同心協力，壯大北洋勢力。」
「好！好！」段祺瑞也受了感染，連連說,「四哥能來北京真是太好了，以後許多事可以就近請教了。」
「哪裡哪裡，」馮國璋趕緊說，「以後還需要你多照應，否則我什麼事都做不成。」說到高興處，馮國璋就此斷言，「往後府院之爭的事再也不會發生了！」
「是的，是的。」段祺瑞趕緊附和。
原先總統是南方的，總理是北方的，兩人總是難以合拍。如今總統、總理同屬北洋派，既是北洋武備學堂的老同學，又同是小站出身，辦起事來果然順當多了，馮國璋上任伊始，便將當初段祺瑞和黎元洪糾纏不休的對德宣戰案，以總統令一舉發布。這時候，人們真的以為總統、總理、總長「三位一體」了，府院之爭再也不會出現了。
然而，這種愉快的合作僅僅是一個短暫的開始，接下來發生的一切，不禁讓人們大跌眼鏡。
段祺瑞重新執政後，並沒有恢復張勳復辟時解散的國會，而是組織了一個臨時參政院代替國會功能。這自然遭到南方的一致反對，孫中山首先揭起「護法」大旗，海軍總長程璧光與第一艦隊司令林葆懌立刻率部響應，廣西陸榮廷、雲南唐繼堯等西南各省一些地方軍閥，出於自身利益的考慮也紛紛響應。
8月，孫中山南下廣州，號召各地國會議員南下護法。8月25日，非常國會在廣州召開，選舉孫中山為護法軍政府大元帥，唐繼堯、陸榮廷為元帥。隨之，護法戰爭爆發。
在此情況下，段祺瑞決定武力統一全國。而馮國璋在護國反袁時期便與西南方面建立了良好關係，梁啓超、陸榮廷、唐繼堯的代表都是馮府常客，國民黨人孫洪伊、唐紹儀都是馮國璋的盟友，因此馮國璋反對對西南用兵，主張和平統一全國。
段祺瑞雖然多年位居中央，沒有軍隊，但在陸軍黨羽頗多，在政界也有很大的影響力。袁世凱死後，山東督軍張懷芝、安徽督軍倪嗣沖、陝西督軍陳樹藩、福建督軍李厚基等紛紛投靠段祺瑞，以其為後台，加上段祺瑞的心腹湖南督軍傅良佐、四川查辦使吳光新等，形成了以段祺瑞為首的軍事集團，因段祺瑞是安徽合肥人，故稱之為皖系。
與段祺瑞的皖系相比，馮國璋的直系似乎更勝一籌。馮國璋坐鎮東南多年，其勢力覆蓋整個長江中下游，尤其一直為其親信的李純、王占元、陳光遠，分別占據著江蘇、江西、湖北，成為馮國璋軍事集團的主要力量。馮國璋為直隸河間人，因而其軍事集團被稱為直系。直隸是北洋軍閥的發祥地，北洋將領以及下級官員中直隸籍頗多，緣於鄉誼、人緣、私人關係等諸多因素，許多將領屬於直系或接近直系，因而直系在數量上遠遠多於皖系。
在這種背景下，段祺瑞主張武力統一，其用意便十分明顯，那便是借對西南用兵之機，將皖系勢力打入直系占領的長江流域，改變皖、直兩系戰略格局；同時以直系近於前方，首先調直系力量對抗護法軍，以削弱直系實力。
馮國璋何曾不明白這一點，作為北洋軍閥中實力派人物，早在袁世凱逝世前，兩人便明爭暗鬥不斷，袁世凱死後，更是為誰執北洋牛耳愈斗愈凶。雖表面上看起來一團和氣，尤其在馮國璋代理大總統後，段祺瑞怎能甘心長期位居馮國璋之下？只是陰差陽錯讓馮國璋做了代理大總統不得已而為之。但馮國璋不是黎元洪，不削弱其直系實力，段祺瑞難以執北洋牛耳，更難以取總統職位而代之。
馮國璋深諳段祺瑞的用心，為了保住直系傳統地盤，也給西南方面送個順水人情，以保持「盟友」關係，獲得其政治支持，馮國璋只好消極抵抗，無論段祺瑞如何催逼，只是一味迴避、搪塞，拒不簽發「討伐令」。
段祺瑞沒有耐心與馮國璋耗下去，沒有總統蓋章的「討伐令」他依舊可以出兵。他的軍事戰略是，一路人馬入湖南以占領兩廣，另一路人馬入四川以進攻雲貴。他任命第八師師長王汝賢為攻湘總司令，第二十八師師長范國璋為副總司令，開始了第一次南伐。
湖南是西南的門戶，湖南爭奪戰，點燃了南北戰爭的導火線。然而，段祺瑞力主「武力統一」，而他的嫡系武力卻十分有限；他一心想借用直系及接近直系的部隊當炮灰以達一箭雙鵰之目的，卻忽略了這些人是否聽其命令。
10月20日，馮國璋的親信「長江三督」李純、陳光遠、王占元率先通電主和，發出「倒段」先聲；接著，「長江三督」又去鼓動處於湖南前線的湘南總司令王汝賢、副司令范國璋戰場倒戈。乍一看來，王、范二人均屬皖系陣營，想要策反他們並不容易。但實際上，他們二人都是直隸人，經常在直、皖兩派之間搖擺不定，此次「長江三督」出面，出於鄉誼，他們為直系所左右，公開背叛段祺瑞，於11月14日發出通電，主張停戰議和。
前方戰場停戰請和，給了段祺瑞當頭一棒；加上段祺瑞在四川戰場失利，11月16日，段祺瑞被迫辭職。
馮、段爭鬥的第一回合，馮國璋旗開得勝。但段祺瑞的辭職，卻是以退為進，很快便讓馮國璋見識了他的厲害。段祺瑞辭職當天，總統府日籍顧問青木宣純與日本駐華公使林權助便氣勢洶洶地找到馮國璋，開門見山地說：「倘因內閣變動引起糾紛，日本政府難以坐視！」
馮國璋哪敢得罪日本人，加上北洋內部勸阻聲此起彼伏，馮國璋竟然找不到一個可以接替段祺瑞職務的人，於是，他趕緊派秘書長張一麟和王士珍挽留段祺瑞，又召開公府會議挽留段祺瑞內閣成員，還在會議上信誓旦旦地稱：「我願親率一旅之師，南下討伐，以表我支持總理的決心」。
但這些都只是表面文章，背地裡，馮國璋密電直系將領，令他們繼續通電主張「和平統一」。「長江三督」為了壯大聲勢，還拉上了直隸督軍、實力強大的曹錕，「長江三督」搖身一變成了「直系四督」，於18日聯名發出主和通電。
馮國璋自以為時機成熟，立刻免去傅良佐湖南督軍、段祺瑞陸軍總長、徐樹錚陸軍次長的職務。馮國璋一向優柔寡斷，患得患失，此次的乾脆利索，令段祺瑞瞠目結舌。段祺瑞一氣之下以辭去國務總理相要挾，沒想到這次馮國璋有了底氣，竟立刻准辭。
此時，表面看來馮國璋整垮了段祺瑞，風光無限，或許馮國璋自己也是這麼認為，但接踵而來的困境，卻是馮國璋始料未及的。
段祺瑞辭職後，馮國璋立刻找到王士珍，畢竟王士珍也是直隸人，背後也總是對馮國璋支持多一些，想必在這個時候能夠助自己一臂之力，沒想到王士珍竟十分為難地對馮國璋說：「我和芝泉也是老朋友了，你要我出來做這個總理，豈不是讓我背上個賣友求榮的惡名？」
馮國璋勸不動王士珍，又先後去請了熊希齡、田文烈、陸征祥、汪大燮等人，可大家一聽到「總理」這個職務，仿佛像聽到什麼可怕的事物，嚇得連連搖頭。大家都知道，段祺瑞雖辭職，但仍實力強大，所以誰也不想做這個過渡總理，給自己招惹是非。
馮國璋萬般無奈，只好又去求段祺瑞。沒想到，下野後的段祺瑞倒是很爽快，答應可以幫助馮國璋請出汪大燮。汪大燮雖然答應代理總理，卻又提出「只當一天總理，只簽署兩個文件」的要求，令馮國璋哭笑不得。而汪大燮簽署的兩個文件，分別是自己出任代理總理和王士珍繼任總理的文件。最後還是段祺瑞出來勸駕，王士珍才勉強答應出任總理。
段祺瑞如此大度給馮國璋幫忙，倒不是好心替馮國璋排憂解難，他是為日後重掌政權打基礎，他知道王士珍性格軟弱，不會因為眷戀總理職位阻礙自己將來的復出。倘若馮國璋請了別人出任總理，或許會對段祺瑞不利。
好不容易拉出王士珍繼任總理，馮國璋剛剛鬆了一口氣，一個壞消息緊接著傳來：曹錕又倒向了皖系！原來「長江三督」終究比不上段祺瑞的心腹徐樹錚，徐樹錚以「副總統」一職的許諾，很輕鬆地便將曹錕拉入了皖系陣營。接著，徐樹錚又復活了「督軍團」，以曹錕為首的九省三區督軍、都統、護軍使，於12月2日在天津舉行會議，決定各省聯合出兵南征。
在天津會議的壓力下，馮國璋不得不做出讓步，終於下達了對西南的討伐令，同時任命段祺瑞為「參戰督辦」，全權處理參戰事宜。而陸軍總長一職則給了其親信段芝貴，使得中央軍權盡數落入皖系手中。「虎狗之爭」第二回合，馮國璋大敗。
但馮國璋最終還是給自己留了一手，他下的討伐令只是對荊襄一帶的局部討伐令。如此一來，不僅皖系諸將強烈譴責，西南方面也沒有理解馮國璋的良苦用心，不僅通電指責中央的討伐舉動，還突然發兵岳州，打亂了馮國璋的計劃，令馮國璋里外不是人。
馮國璋被「擠」在南北之間無從應對，直感到憋屈，他越發懷念在南京時有地盤有軍隊，腰杆挺得直說話有底氣的生活，遂決心回歸大本營。1918年1月22日，馮國璋將段祺瑞、徐世昌、王士珍召集到一起，義憤填膺地對他們宣布：
「南方如此囂張，簡直不把中央放在眼裡，既然都這麼想打，我們就打！我也是北洋一分子，也不想看到北洋分裂，此前我千方百計想要和南方和談，卻不料落得左右不是人。」
馮國璋緊攥拳頭，嘆一口氣，看著段祺瑞說：
「芝泉，我決定和你統一戰線，對南方作戰。我還要南下親征，壯我北洋軍威，同時也挫一挫南方的銳氣！」
馮國璋一席話，顯然讓在座的各位一時反應不過來，一個個面露驚訝、疑惑之色，盯著馮國璋卻不知該說什麼好。段祺瑞則認為馮國璋只是說氣話發泄一下，所以沒有把他的話當真。
豈料，馮國璋說到做到，1月25日，發出南巡閱兵通電，26日晚，即攜帶十五師師長劉詢派出的精銳一旅，登上南下專車。馮國璋滿心歡心，火速駛向南京。卻不料在途經蚌埠時被倪嗣沖攔下了！
倪嗣沖將馮國璋從專車上請下，即刻卸掉了車頭。並口口聲聲說為了總統的安全，只要總統回京，立刻掛車頭。原來段祺瑞見馮國璋形色匆匆，又是走津浦線，便覺可疑。前線在兩湖，應當走京漢線才對，顯然馮國璋是朝著南京駛去。知曉了馮國璋的意圖，段祺瑞立刻命倪嗣沖將馮國璋攔下，截回北京。
回到北京，馮國璋被迫發出「討伐令」，再一次敗落的馮國璋，已經無力與段祺瑞抗衡。恰在此時，北洋軍在兩湖前線連連取勝的情況下，處於湖北前線的馮玉祥突然通電主和。由於馮玉祥的舅舅陸建章任總統府顧問，被段祺瑞理所當然地認為是馮國璋背後指使。段祺瑞一怒之下，決定一不做二不休，逐馮國璋下台。
由於皖系兵力已調往南方前線，為了完成驅馮大計，段祺瑞情急之中請奉軍入關。3月5日，奉軍抵達廊坊，3月7日，馮國璋被迫通電辭職，王士珍隨即掛冠而去，段祺瑞重新出山，再任國務總理。
為了緩和局勢，段祺瑞決定合法驅馮，10月10日，馮國璋屆滿被迫卸任。但直系不甘示弱，尤其手握重兵的吳佩孚、曹錕在湖南前線通電主和，令段祺瑞不得不在馮國璋卸任之前被迫表示辭去國務總理之職。只是出乎意料的是，徐世昌就任大總統當天，便發出第一道命令：免去段祺瑞國務總理職務。
「虎狗之爭」最終以雙雙下野而告終。