孫傳芳退回江北後，仍不甘心失敗，在張作霖的經濟援助及武器支援下，繼續招兵買馬，並於1928年春，出任魯西前線總指揮，輕鬆收復濟寧後與馮玉祥在十里舖展開拉鋸戰，本打算擊敗馮軍再進攻徐州，但由於張宗昌在津浦路上的潰敗，導致他後路空虛，不得不隨張宗昌向濟南撤退。
4月上旬，由蔣、桂、馮、閻組成的北伐軍開始了二次北伐。4月下旬，北伐軍連克肥城、泰安、平陰、長清。龜縮在濟南的孫傳芳擔心張宗昌會不告而別，留他一人獨守孤城，以方便聯絡為藉口，將其外甥、五省聯軍軍需總監程登科派到張宗昌總部，監視張宗昌的動向，以便及時報告。
4月30日中午，孫傳芳正與馬葆珩一起吃午飯，突然程登科來電，說張宗昌已經逃離濟南。孫傳芳聞訊震怒，氣得將未吃完的饅頭狠狠扔到桌上，對馬葆珩說：「早知道這小子會有此舉，咱們也趕緊走！」
說完，孫傳芳拿出一頂寬沿帽子扣在頭上，將帽沿拉低，帶著幾名隨從，佯裝去白馬山視察軍隊的樣子，一路上騎馬慢行，有說有笑，巧妙躲過張宗昌防區的耳目，最後趕到洛口橋馬葆珩指揮部，商議撤軍計劃。當晚，孫傳芳將自己的部隊撤出濟南，向北逃去。
5月下旬，北伐軍相繼占領滄州、保定等地，張作霖敗局已定，決定離京回奉。孫傳芳遂決定跟隨張作霖出關，但他手下的主要將領馬葆珩等人，均不願隨鬍子出身的張作霖退居關外，見孫傳芳大勢已去，紛紛倒戈投降，孫傳芳因此成了光杆司令。
6月4日，張作霖在退回奉天途中於皇姑屯被日軍炸死。孫傳芳逃到瀋陽後，被張學良列為上賓，禮遇有加，並在帥府為他設置了辦公室，他也每日必到辦公室上班。兩人看起來關係密切，從時局政治到家庭瑣事無話不談，但政治主張卻大相逕庭。他主張張學良以日本人為靠山，割據東北，發展實力，一旦時機成熟，便可揮師入關，與蔣介石爭奪天下。他知道如若張作霖在世，一定持這種觀點。但當他每每與張學良提起自己的主張，張學良都不置可否，令他十分不快。
孫傳芳的主張，與奉系元老楊宇霆不謀而合，而張學良與其父重用的楊宇霆多有隔膜，鑑於此，孫傳芳不得不小心地周旋於張學良與楊宇霆之間，兩面討好。
1928年12月29日，張學良毅然宣布東北易幟，服從南京國民政府，令孫傳芳大出意料，大失所望，感到利用奉軍東山再起的希望破滅。而令孫傳芳更為震驚的是，1929年1月10日，張學良突然槍殺了拒不服從他領導的楊宇霆與常蔭槐，孫傳芳震驚之餘不寒而慄，大有兔死狐悲之感，為明哲保身，對張學良連連稱讚：「殺得好！楊宇霆咎由自取，死有餘辜。」
為避免因與楊宇霆關係密切而禍及己身，孫傳芳藉口另一位夫人身體不適，倉皇離開奉天，出走大連。儘管如此，孫傳芳仍未死心，1930年4月中原大戰爆發後，孫傳芳興奮異常，決定投入閻、馮、桂反蔣聯盟，但苦於手無寸兵，只有利用奉軍方可達到目的，於是勸說張學良站到反蔣行列。怎奈張學良自有主張，任憑他磨破嘴皮，始終不為其左右，並於當年9月出兵助蔣，使反蔣派大敗而歸。至此，孫傳芳東山再起的希望徹底破滅。
1931年「九一八」事變之後，孫傳芳舉家遷往天津，住在英租界。孫傳芳之所以選擇天津，一方面他的好友、僚屬楊文愷、盧香亭、周蔭人等人，老上司王占元，老師靳雲鵬、張紹曾等都居住於此；另一方面，這裡離南京較遠，加上住在租界，可以躲避蔣介石的監視與控制。
然而，孫傳芳到天津後和「青年黨」人來往密切，「青年黨」黨魁曾琦鼓吹「國家主義」，和蔣介石大唱反調，孫傳芳因與他們接近而招致國民黨的注意。與此同時，日本人經常騷擾孫傳芳，想要拉他主持華北偽政權。孫傳芳雖然拒絕，但仍舊遭到蔣介石的猜疑。
為了避免蔣介石對自己採取報復行動，同時也為了消磨時光，慰藉空虛的心靈，孫傳芳在靳雲鵬的提議下，與當時很多無所事事的軍閥一起，皈依佛門，並取法號「智園」。自1933年起，孫傳芳每日念經誦佛，閉門謝客，再也不理世俗之事。孫傳芳還和靳雲鵬在東南角一帶的草廠庵合辦了天津佛教居士林，靳雲鵬任林長，孫傳芳任理事長。
自從居士林開辦，孫傳芳逢人便勸其入林，居士林也確實吸引了不少達官貴人，很快便發展到近2000人。有一天遇到原直隸省議長邊守靖，孫傳芳隨口勸其到居士林念念佛。不想邊守靖嘲弄似地回答：「你是五省聯軍大元帥，連年征戰，官兵捐軀者不可勝數，一將成名萬骨枯，今日念經祈禱理所當然。我乃文人，未歷戎行，不皈依恐怕如來佛也不會見怪的。」
換做以前，聽到這麼刺耳的話，孫傳芳可能會勃然大怒，反唇相譏。但他皈依佛門以後，心境大為改變，對邊守靖的話只是一笑而過。
這年夏天開始，孫傳芳在自家宅院門口常備綠豆湯，供路人飲用，一時傳為美談。中秋之夜，一個盜米賊「光顧」了孫府，被孫傳芳的傭人逮住，孫傳芳見竊賊年紀小，問他為什麼偷米，竊賊說家裡已經揭不開鍋，不得已才出來偷竊。孫傳芳聽罷，不僅沒有責罰竊賊，反而送給他一大袋好米。此事很快在報上刊出，題為：孫公館緝賊賞米，中秋夜樂善好施。
孫傳芳的這些做法，讓人們以為，他真的是放下屠刀，立地成佛了。然而，孫傳芳沒有因此躲過仇家的追殺。
自從1925年孫傳芳殺害施從濱後，施從濱的女兒、時年20歲的施谷蘭便開始計劃為父復仇，她自己沒有能力殺掉孫傳芳，只能寄希望於父親的養子、堂兄施中誠。然而施中誠遲遲不肯行動，在施谷蘭的催促下，只是答覆：「報仇時機未到，恁可輕拋生命。」施谷蘭認為他是貪生怕死，遂給他寫信道：「沒有你，他的女兒也照樣能報仇，你等著看吧！」
1929年，施谷蘭到太原與施靖公結婚，施靖公是第三集團軍諜報股股長，婚前施谷蘭提出讓施靖公為其父報仇，施靖公滿口應允，然而六年過去後，施靖公已升至旅長，仍是不肯兌現當年諾言。施谷蘭一氣之下，決定自己動手，她給丈夫留下一首詩，云：
一再犧牲為父仇，年年不報使人愁。
痴心愿望求人助，結果仍須自出頭。
然後帶著兒子施大利趕到天津，將兒子送進幼兒園，便開始打探孫傳芳的下落。由於孫傳芳此時正潛心修佛，拒絕出席任何政治活動，給施谷蘭追尋其蹤跡帶來一定困難。然而，讓施谷蘭沒有想到的是，她的兒子竟與孫傳芳女兒孫家敏就讀於同一所幼兒園。真是「得來全不費工夫」，尋著這條線索，施谷蘭很快找到孫傳芳的住處——英租界二十號，並打聽到孫傳芳是居士林的理事長，每逢周三、周六必親率居士「領拜」。
得知這些情況後，施谷蘭感到為父報仇終於有了希望，即改名為「施劍翹」，「劍翹」二字取自「翹首望明月，拔劍問青天」，並特地到南京與其弟施中傑研究行刺方式，從施中傑處獲得一把白朗寧手槍外加20發子彈。準備好一切後，施劍翹返回天津，以「董慧」之名加入居士林，伺機而動。
1935年11月13日，又到了靳雲鵬、孫傳芳率居士「領拜」的日子，這天天降小雨，道路泥濘，孫傳芳的夫人勸他不要去居士林了，但孫傳芳沒有聽從夫人的話，執意前往。
孫傳芳的到來，讓施劍翹大喜過望，因天氣不好，這天來居士林聽經的人格外少，是施劍翹行刺的大好時機，施劍翹一手握著大衣口袋裡的手槍，一手攥著大衣里另一隻口袋裡的一摞宣傳單和「告國人書」，上面寫著施劍翹刺殺孫傳芳的原因，列舉了孫傳芳的種種罪狀，以及因要血濺佛堂而對居士林所有先生、道長的歉意，準備在殺掉孫傳芳後發放給眾人。
施劍翹坐在女居士的第三排，而孫傳芳就在女居士的第一排。下午三時一刻，孫傳芳正在虔誠誦經之時，施劍翹突然掏出手槍，衝著孫傳芳後腦就是一槍，子彈瞬間就從孫傳芳前額射出，孫傳芳立刻倒地，腦髓濺流。施劍翹又對準孫傳芳的右太陽穴開了一槍，子彈從左額穿出，接著再對準孫傳芳腰部開一槍，子彈從前胸透出。接連三槍，孫傳芳當場斃命，終年50歲。