韓復榘主政山東之初，其統治地位並不穩定，一方面蔣介石對他並不信任，總想收回山東；一方面控制華北的張學良在占據青島的同時，又覬覦山東；而盤踞膠東的劉珍年更是時刻想吞併整個山東。上任伊始，韓復榘就著手解決這些顧慮，首先要做的，便是擴充軍隊，擴大實力。
由於山東土匪猖獗，給韓復榘提供了很好的兵源，靠著收編土匪和徵兵兩條途徑，至1930年底，韓復榘的兵力迅速增長為6萬人。此外，韓復榘還組織了五個民團軍，至抗日戰爭前夕，其兵力達到10萬人。然而，如韓復榘所料，蔣介石處理完中原大戰，立刻倒出手來「收拾」山東。蔣介石為了削弱地方軍閥勢力，下令各軍閥縮小編制，根據蔣介石的規定，韓復榘要削去2萬人。韓復榘自然不會乖乖聽命，他以「編餘軍官過多」等各種理由抵制蔣介石的命令，最終於1931年2月完成「縮編」，但兵力並無多少變化。9月，韓復榘還收編了石友三的軍隊。
蔣介石為了達到保存中央軍實力，消除異己的目的，下令各地方雜牌軍攻打紅軍，韓復榘自然也不能倖免。1931年1月，蔣介石命韓復榘率軍入贛「圍剿」紅軍，韓復榘既不想入贛，又不想與蔣介石鬧僵，便殺掉於1928年、1929年被捕的共產黨員鄧恩銘、劉謙初等人，以此換取蔣介石的好感。經過一番周旋，蔣介石終於放棄調韓入贛的決定。7月，韓復榘出任魯豫「清鄉」督辦，大肆搜捕共產黨人。
擺平了與蔣介石的關係，韓復榘陳兵膠州灣，準備驅逐張學良的部隊。「九一八」事變後，張學良因丟失瀋陽乃至整個東北，其勢力大受打擊，自知無力與韓復榘作戰，乃無條件做出退讓，電請韓復榘接收青島。後幾經磋商，為了給張學良留一點面子，韓復榘最後同意暫由東北海軍司令沈鴻烈代理青島市長，但青島稅收各得一半，韓張爭奪山東地盤的鬥爭始告結束。
接下來要做的，便是驅逐劉珍年。劉珍年最初是奉系李景林的部屬，後來成為張宗昌的部下，1928年張宗昌兵敗山東，劉珍年便投靠蔣介石，被任命為國民革命軍暫編第一軍軍長，後改部隊番號為陸軍第十一師，駐掖縣、平度、萊陽、蓬萊、招遠、文登、榮城等12個縣，擁兵3萬。
早在1930年7月，韓復榘在膠東與晉軍鏖戰時，劉珍年曾企圖在背後襲擊韓軍，幸虧韓復榘及時發現，否則後果不堪設想。韓復榘就任山東省主席後，曾對劉珍年提出三項要求：一、每月向省府解款50萬元；二、撥五六縣歸省府管理；三、交還各縣統稅局，稅收歸財政部徵收。但劉珍年對此置若罔聞，仍自行其是，自行收稅，稅收除一部分上繳南京國民政府，其餘全部留作自用。而膠東是山東的富庶地區，稅收豐厚，韓復榘得不到這塊肥肉，自然不肯罷休。因此，對於南京國民政府每月撥給山東的60萬軍餉，韓復榘僅撥給劉珍年7萬。劉珍年不滿，曾為此大肆爭吵，最終每月增至12萬元。人事方面，韓復榘曾想將自己的人安插到劉珍年占據的12縣中，卻始終未能如願。
不僅如此，劉珍年還謀劃從內部瓦解韓復榘的部屬，更堅定了韓復榘除掉劉珍年的決心。而劉珍年也隨時準備衝出膠東，取韓復榘而代之。
1932年8月，膠東土匪暴動，韓復榘看準時機，致電劉珍年，稱要派兵進入其防區，與之共同剿匪。劉珍年知道韓復榘是黃鼠狼給雞拜年，沒安好心，斷然拒絕。9月，韓復榘陸陸續續向膠東派出軍隊，劉珍年也積極布防，到9月15日，韓復榘在濰縣、高密一帶已聚集5萬餘人，韓劉戰爭一觸即發。
9月16日，韓復榘親臨濰縣督師，劉珍年也在昌邑、平度、沙河一帶完成布防。9月17日，韓復榘首先向昌邑進攻，韓劉戰爭爆發。
戰爭爆發次日，韓復榘才向南京政府發表通電，歷數劉珍年在膠東的種種暴行，稱對劉作戰是「為民請命」。韓復榘之所以「先斬後奏」，是因為劉珍年乃蔣介石所收編，蔣介石將他放在膠東就是為了讓他牽制韓復榘，又怎麼可能贊成韓復榘對劉作戰呢？
蔣介石收到韓復榘來電後，果然大發雷霆，立刻發電令韓復榘、劉珍年停止戰爭，「靜候中央處置」。韓復榘置之不理，蔣介石更加怒火中燒，派劉峙部、商震部分別從徐州、河北向韓復榘進攻。然而就在此時，張學良在北平表示站在韓復榘一邊，並支援韓復榘一個炮兵團，蔣介石怕戰事擴大，立刻收回派軍增援劉珍年的命令，轉而尋求「和平」解決韓劉戰爭，令其駐濟南的代表蔣伯誠從中「調停」。
9月23日，韓劉兩軍在掖縣、龍口之間的七星坪激戰，蔣伯誠抵達沙河，勸韓復榘停止戰爭。韓復榘表面答應，將一部分軍隊撤離前線，還向蔣介石發電稱對劉作戰是「應膠東人民之請命，兼為國家弭此亂源，倉促間，實出萬不得已」，並「自請處分」。而就在發電當天，劉珍年撤出煙臺，將部隊聚集在易守難攻的棲霞，韓復榘乘機出兵占領煙臺，委任了膠東八縣縣長，使得劉珍年手中只剩四縣。
韓復榘的「自請處分」只是表面文章，他希冀蔣介石能下令調走劉珍年，但這完全是痴人說夢，與蔣介石所想大相逕庭。見蔣介石沒有要調走劉珍年的意思，韓復榘便繼續進攻劉珍年，於10月初包圍掖縣，10月2日進駐蓬萊，打算從蓬萊進攻棲霞。
10月19日，南京政府宣布解決韓劉戰爭的四條辦法，令韓復榘撤回濰河以西原駐地；令劉珍年進駐福山、掖縣、萊陽、棲霞、牟平五縣及龍口；剩下的七縣暫不駐兵；移防後靜候中央處置。
這個看似「折中」的方案，卻是重重地偏向劉珍年一方。韓部已控制棲霞等四縣以外的全部膠東地區，如今撤出等於前功盡棄；而為劉部劃出的防區，包括韓部已占領的煙臺（福山）、龍口等。韓復榘豈能接受，憤然之下於21日通電辭職。
韓的辭職電發出後，在社會上引起強烈反響，各界人士唯恐山東戰事擴大，為日本侵略中國製造藉口，紛紛站出來替韓復榘說話，主張息爭罷戰，山東商民代表苗世遠等人致電南京國民政府，稱：「中央自不惜一韓主席，獨不為山東地方計乎？即不為山東地方計，獨不為大局計乎？」在輿論形勢一邊倒的情況下，南京政府不得不考慮調走劉珍年，而劉珍年也感到大勢已去，於10月25日電請調離山東，南京國民政府被迫應允。
韓復榘憤然辭職自然不是真的要放棄山東，他不過是以退為進，如今見目的達到，便不再提辭職之事。11月22日，劉珍年部撤離山東，韓復榘終於如願以償。
在驅逐劉珍年的同時，韓復榘還解決了來自另一方的威脅，除掉了曾督魯三年的魯籍軍閥張宗昌。
1931年「九一八」事變前，張宗昌由日本返回中國，不久即至北平居住。由於張宗昌是山東掖縣人，並於1925年5月至1928年5月任山東督辦，在山東頗具勢力。而他被北伐軍趕出山東後，曾於1929年一度殺回山東，結果失敗而去，逃亡日本。如今國外歸來，他豈能心甘情願做愚公？在韓復榘看來，如若他企圖東山再起，第一個目標應該就是山東，所以他的回國引起韓復榘的極度不安。
中原大戰結束後，馮玉祥因戰敗被蔣介石通緝，避居泰山。韓復榘雖曾背叛馮玉祥，但也因此而愧疚，尤其中原大戰中不打西北軍，使雙方矛盾得以緩和。他不僅為馮玉祥及他帶來的一營人安排生活住宿，還經常到泰山看望馮玉祥。關於張宗昌的事情，他曾多次同馮玉祥討論，而馮玉祥和韓復榘意見相同，認為張宗昌不可不除。馮玉祥對韓復榘說：
「聽說很多人都在推薦張宗昌出任華北抗日聯軍總司令，如果他真的出任了此職，拉著隊伍南下，你在濟南還能呆得住嗎？」
這也正是韓復榘所擔心的。此時張宗昌手中無一兵一卒，似乎不足為懼，但他堅決抗日的態度受到社會各界的推崇，一旦他拉起軍隊，首要的問題就是在哪裡駐防。當時劉珍年尚在膠東蠢蠢欲動，而劉原本是張宗昌的部下，萬一兩人聯合，後果不堪設想。
於是，在馮玉祥的支持下，韓復榘決定先下手為強，除掉張宗昌。做出決定後，二人便商議如何除掉張宗昌。馮玉祥又出主意說：「把他引到濟南，讓鄭繼成出面。」
鄭繼成是山東省政府參議，他的叔父鄭金聲是馮玉祥手下的軍長，於1927年被張宗昌的部下褚玉璞俘虜並殺害。馮玉祥之所以選定鄭繼成，是想藉助這層關係，讓他打著替「父」報仇的名義刺殺張宗昌，以便在事後爭取社會輿論的同情。
由於鄭繼成「自幼受先父庭訓，乃長又得馮總司令教練」，對馮玉祥感情頗為深厚，得知馮玉祥有意讓他出面刺殺張宗昌，二話不說，立馬答應下來。如此一來，韓復榘謀害張宗昌已是萬事俱備，只欠東風，他現在要做的，便是引誘張宗昌入濟。
1932年夏，張學良在北平召開華北各省高級將領軍事會議，韓復榘、石友三等人均參加會議。會議決定由張宗昌率駐紮山東的孫殿英部，協助東北邊防司令張作相負責保衛熱河。而孫殿英部的軍械問題，則交給韓復榘負責。這正給韓復榘提供了接近張宗昌的機會。
7月24日，韓復榘、石友三等人前往東城鐵獅子胡同張宗昌的宅邸，拜見張宗昌，受到張宗昌的熱情款待。張宗昌性情直率，席間，他一個勁和韓復榘說：「我這回出山完全為了抗日，絕無覬覦山東地盤的野心。」
但這話在韓復榘聽來，卻是欲蓋彌彰，韓復榘裝作誠懇地對張宗昌說：「效坤兄，無需多言，我自然知道效坤兄為人，我們眼下要做的，就是團結一致，共御外敵。」
見張宗昌高興，韓復榘又提出與張宗昌義結金蘭，張宗昌一口答應，立即與韓復榘交換蘭譜，結為異姓兄弟。於是，韓復榘馬上以兄弟名義邀請張宗昌到濟南做客，張宗昌點頭答應。回到濟南後不久，韓復榘便給張宗昌發電，請他回家鄉看看，順便共商禦敵大事。張宗昌胸無城府，見韓復榘如此熱情，便一口答應。韓復榘大喜，趕緊著手準備迎接和刺殺事宜。
由於張宗昌周圍的人均對韓復榘心懷疑慮，千方百計阻止張宗昌赴濟，所以直到9月2日，張宗昌才攜帶幾名親信悄悄離開北平。張宗昌此時經濟拮据，惦記著他被濟南交通銀行扣下的40萬元存款，此次赴濟，也是為了將這筆錢取出，以解決孫殿英部開拔費用。
9月2日，張宗昌一行人抵達濟南，韓復榘派石友三等人前去迎接。然而，張宗昌抵達濟南不久，即接到家中來電，說他母親病危，令他急速返回北平。張宗昌當即決定第二天即3日下午，乘坐6點25分的京浦202次快車返回北平。韓復榘聞聽此訊，即做好一切準備。
9月3日下午6點22分，張宗昌抵達濟南火車站，登上火車，回身與送行隊伍告別。刺殺行動就在這一瞬間開始了，韓復榘預先安排的殺手陳鳳山首先開槍，但沒射中。張宗昌立即朝車廂內跑去，陳鳳山緊跟在後。由於韓復榘在車站附近埋伏了一個排的兵力，張宗昌插翅難飛，最終在他跳下火車，跑到三站台第七岔道時，被預伏在四周的軍隊亂槍打死。
事後，鄭繼成即從暗處站出來，聲稱自己是鄭金聲的嗣子，為父報仇，以此掩蓋韓復榘、馮玉祥預謀誘殺張宗昌的事實。
至此，韓復榘清除了對他有威脅的各方面力量，坐穩了山東主席的寶座。