1922年5月4日，孫中山以陸海軍大元帥名義下北伐令，將大本營移至韶關，兵分三路，開始北伐。正當北伐軍節節勝利之時，陳炯明卻在廣州陰謀發動叛亂。6月16日，陳炯明炮轟總統府，圖謀殺害孫中山。孫中山脫險后登上永豐艦堅持了五十幾天，於8月9日離粵赴滬。第二次護法運動又宣告失敗，非常國會的國會議員們的生命安全受到威脅，被迫搭船離開廣東，歷時5年的非常國會也隨之消亡了。
時任“國會非常會議議長”的林森離開廣州后不久又到海外處理僑務。但沒過多久，林森就奉孫中山命回福建，出任福建省省長。
林森就任省長的緣由是:1922年10月，奉命北伐的粵軍許崇智部進入福州，驅逐投靠直系軍閥的福建省長兼督軍李厚基。為建立反攻廣東陳炯明的戰略基地，孫中山派福州出身的林森以及汪精衛、居正、蔣介石等來福州慰勞粵軍，處理當地的復雜局勢。10月31日，福州召開福建各界公民大會，林森被推舉為福建省省長。而原屬段祺瑞系統的王永泉被段系的徐樹錚任命為閩軍總司令，實行兵民分治。
11月8日，林森正式就任福建省省長。他在就職時的講話表達了自己知難而上、竭誠盡力的決心:
森被單長閩，自審輇庸，難膺艱巨，迭承各界督促，責以桑梓任務，義不容辭。經於本月8日就職，軍民分治伊始，經緯萬端，一切措施悉待贊助，計惟周咨博訪，冀可集思廣益，敢懇示以周行不自躓山而蹶垤，得奉為圭臬，永當服膺而書紳，謹鞠微誠，濘聞明教。
由於革命發源地廣東已被陳炯明所盤踞，福建的戰略地位就顯得格外重要，林森也被孫中山寄予厚望﹔支持孫中山革命的海外華僑當然也對林森的當選寄予希望，緬甸華僑饒潛川等發來賀電:“福州林子超先生鈞鑒:公當選省長，民治從斯發揚，吾黨實深賴之。尚望刻日攻粵，殄戮叛逆，以慰僑望。”
上任伊始，林森就發布了五條施政方針:(一)籌設自治機關﹔(二)公開財政﹔(三)免除苛捐﹔(四)整頓金融機關﹔(五)維護教育事業。林森不建省長公館，廉潔奉公，勤勉施政﹔輕車簡從，深入民間﹔廣招人才，勵精圖治。
盡管林森竭誠盡力，但還是難以如願。在林森就任之前，10月15日，北洋政府就已任命薩鎮冰為福建省長，由於福州已在北伐軍實際控制之下，薩鎮冰無法就任，但畢竟存在著兩個省長的局面，而薩鎮冰也是福州人，並在家鄉頗有人望。這種情況持續了3個月，林森就被薩鎮冰取而代之。而福建的國民黨系統內，欲謀省長之職者也不乏其人，國民黨福建支部長兼福建鹽運使、自治區總指揮的黃展雲就是典型。在驅逐李厚基后，黃展雲本以為省長職非己莫屬，他的屬下自治軍將領張貞等人還聯名致電孫中山“懇鈞座迅任黃展雲為省長，以慰眾望”。孫中山則回電委婉堅持讓林森任省長:“電悉。魯貽(黃展雲)為吾患難交，素所欽倚。惟福建省長一席，閩海外華僑同志多屬望林子超。此時閩省財政困窘已極，若藉此而獲華僑之資傾，俾閩省民治事業，暢行無阻，亦未始非計之得者。然省長關系干一省民治前途者極大，當由省議會選舉，庶足以表示民眾公意，預杜爭端。兄等既為自治而戰，此旨諒早已共喻。今福州雖下郊壘未清，下游賊氛猶熾，有待於賢豪之相與努力正多，幸為國自愛。不盡縷縷。”盡管孫中山態度明確，但黃展雲心中不快，對林森工作不支持配合，甚至挑動地方勢力鬧起“倒林擁薩”風潮，排斥林森。
在內政方面，林森責任重大，但也感到心有余而力不足。
鑒於福建已成為南方政府所控制的唯一省區，林森在就任后第二天就請示孫中山:“唯閩省反正以后，所有中央政府直轄之各行政機關均由省政府統轄，以維現狀。現在鈞府各部未行就職以前，可否仍由森暫行監管？抑或別定辦法？謹候鈞命，以便遵循。”孫中山批示“著暫兼管。”為解決財政困難，更為爭回國家權益，林森准備將外國銀行所存的鹽稅34萬多元收回，但遭到法英領事的強烈抗議而一時難以辦成。
當時大本營財政部為籌措北伐經費，准備在福建開設銀行發行鈔票。林森認為在沒有預備基金的基礎上開銀行發鈔票勢必難以兌現，以致造成金融混亂，動搖民心﹔再者，福建本是“貧瘠之區，經人更番搜刮，幾等不毛”，更難以承受之。於是，林森婉言謝絕了廖仲愷的要求，也引起大本營一些人的不滿。11月28日，孫中山因需要錢款，致電林森，請在福建省發行公債300萬以救急。林森雖盡快為之辦理，但也加重了福建財政壓力。
實行軍民分治，本是推行地方民主政治的有益嘗試。但在政局動蕩、百般掣肘的情況下，手無兵權的林森就難以穩固他的地位。林森任職兩個多月后，廣東的形勢發生了變化。1923年1月16日，以滇桂聯軍為主力的西路討賊軍擊敗陳炯明，陳炯明逃往惠州。孫中山已經任命許崇智為“東路討賊軍總司令”，命他率軍回粵打擊陳炯明殘部並穩定廣東省政局。
2月2日，許崇智奉命率軍離閩回粵。林森在福建失去軍事力量的支持。閩軍總司令王永泉趁機排斥林森，慫恿福州所謂“公民團”掀起“倒林擁薩”風潮。林森所面臨的形勢非常危急，有人勸林森暫時避讓，林森則說:“我奉命來，不得違命出，生死進退唯總理命是從。”
孫中山對林森給予堅決支持:“子超為最忠於吾黨主義，力倡民治之一人。”針對福州的“倒林擁薩”事件，他“發電大罵假冒公民，此間當維林排薩，並極力之所至以達此。”
但是2月8日，福州所謂“公民大會”依然推舉薩鎮冰為省長。在段系人士的奔走下，“倒林擁薩”風潮愈演愈烈，孫中山也難以制約得住。
鑒於廣東已重新為南方政府所控制，福建的戰略地位顯得次要並已無法左右，孫中山准備返粵就任大元帥也需要得力之人襄助，就同意林森辭去福建省長之職。
2月25日，林森自行辭職，結束了3個月風風雨雨的省長生涯，一肩行李，兩袖清風地離開省府。應老朋友林右箴的邀請，林森到連江青芝山做短暫休息。青芝山草木蔥蘢、岩洞奇特、環境幽靜。剛離開政治風潮，身心疲憊的林森深深愛上這塊清幽的地方，於是就托人買下山上一塊雜地，立為“陶江界”，准備建一別墅，作為自己退身之所。3月1日，薩鎮冰從福州南台海軍公所遷入城內省長公署，正式通電出任福建省長。
“倒林擁薩”塵埃落定，在這兩種政治力量的較量中，林森被薩鎮冰取而代之。但他倆並沒有結下個人恩怨。1936年8月，時任國府主席的林森衣錦還鄉，乘坐挂元首旗的汽艇在馬江碼頭登陸，改乘汽車進城，受到福建省政要及其群眾的熱烈歡迎。薩鎮冰也站在歡迎群眾的隊伍中，被人發覺，告訴林主席。林森立即下車與薩鎮冰握手致謝，並請上車同坐，薩鎮冰婉言辭謝。1945年福州各界捐資改建鎮海樓為林森紀念堂，開工典禮則是由薩鎮冰主持。這是后話。（林友華）
