1922年5月4日，孙中山以陆海军大元帅名义下北伐令，将大本营移至韶关，兵分三路，开始北伐。正当北伐军节节胜利之时，陈炯明却在广州阴谋发动叛乱。6月16日，陈炯明炮轰总统府，图谋杀害孙中山。孙中山脱险后登上永丰舰坚持了五十几天，于8月9日离粤赴沪。第二次护法运动又宣告失败，非常国会的国会议员们的生命安全受到威胁，被迫搭船离开广东，历时5年的非常国会也随之消亡了。
时任“国会非常会议议长”的林森离开广州后不久又到海外处理侨务。但没过多久，林森就奉孙中山命回福建，出任福建省省长。
林森就任省长的缘由是:1922年10月，奉命北伐的粤军许崇智部进入福州，驱逐投靠直系军阀的福建省长兼督军李厚基。为建立反攻广东陈炯明的战略基地，孙中山派福州出身的林森以及汪精卫、居正、蒋介石等来福州慰劳粤军，处理当地的复杂局势。10月31日，福州召开福建各界公民大会，林森被推举为福建省省长。而原属段祺瑞系统的王永泉被段系的徐树铮任命为闽军总司令，实行兵民分治。
11月8日，林森正式就任福建省省长。他在就职时的讲话表达了自己知难而上、竭诚尽力的决心:
森被单长闽，自审辁庸，难膺艰巨，迭承各界督促，责以桑梓任务，义不容辞。经于本月8日就职，军民分治伊始，经纬万端，一切措施悉待赞助，计惟周咨博访，冀可集思广益，敢恳示以周行不自踬山而蹶垤，得奉为圭臬，永当服膺而书绅，谨鞠微诚，泞闻明教。
由于革命发源地广东已被陈炯明所盘踞，福建的战略地位就显得格外重要，林森也被孙中山寄予厚望；支持孙中山革命的海外华侨当然也对林森的当选寄予希望，缅甸华侨饶潜川等发来贺电:“福州林子超先生钧鉴:公当选省长，民治从斯发扬，吾党实深赖之。尚望刻日攻粤，殄戮叛逆，以慰侨望。”
上任伊始，林森就发布了五条施政方针:(一)筹设自治机关；(二)公开财政；(三)免除苛捐；(四)整顿金融机关；(五)维护教育事业。林森不建省长公馆，廉洁奉公，勤勉施政；轻车简从，深入民间；广招人才，励精图治。
尽管林森竭诚尽力，但还是难以如愿。在林森就任之前，10月15日，北洋政府就已任命萨镇冰为福建省长，由于福州已在北伐军实际控制之下，萨镇冰无法就任，但毕竟存在着两个省长的局面，而萨镇冰也是福州人，并在家乡颇有人望。这种情况持续了3个月，林森就被萨镇冰取而代之。而福建的国民党系统内，欲谋省长之职者也不乏其人，国民党福建支部长兼福建盐运使、自治区总指挥的黄展云就是典型。在驱逐李厚基后，黄展云本以为省长职非己莫属，他的属下自治军将领张贞等人还联名致电孙中山“恳钧座迅任黄展云为省长，以慰众望”。孙中山则回电委婉坚持让林森任省长:“电悉。鲁贻(黄展云)为吾患难交，素所钦倚。惟福建省长一席，闽海外华侨同志多属望林子超。此时闽省财政困窘已极，若藉此而获华侨之资倾，俾闽省民治事业，畅行无阻，亦未始非计之得者。然省长关系干一省民治前途者极大，当由省议会选举，庶足以表示民众公意，预杜争端。兄等既为自治而战，此旨谅早已共喻。今福州虽下郊垒未清，下游贼氛犹炽，有待于贤豪之相与努力正多，幸为国自爱。不尽缕缕。”尽管孙中山态度明确，但黄展云心中不快，对林森工作不支持配合，甚至挑动地方势力闹起“倒林拥萨”风潮，排斥林森。
在内政方面，林森责任重大，但也感到心有余而力不足。
鉴于福建已成为南方政府所控制的唯一省区，林森在就任后第二天就请示孙中山:“唯闽省反正以后，所有中央政府直辖之各行政机关均由省政府统辖，以维现状。现在钧府各部未行就职以前，可否仍由森暂行监管？抑或别定办法？谨候钧命，以便遵循。”孙中山批示“着暂兼管。”为解决财政困难，更为争回国家权益，林森准备将外国银行所存的盐税34万多元收回，但遭到法英领事的强烈抗议而一时难以办成。
当时大本营财政部为筹措北伐经费，准备在福建开设银行发行钞票。林森认为在没有预备基金的基础上开银行发钞票势必难以兑现，以致造成金融混乱，动摇民心；再者，福建本是“贫瘠之区，经人更番搜刮，几等不毛”，更难以承受之。于是，林森婉言谢绝了廖仲恺的要求，也引起大本营一些人的不满。11月28日，孙中山因需要钱款，致电林森，请在福建省发行公债300万以救急。林森虽尽快为之办理，但也加重了福建财政压力。
实行军民分治，本是推行地方民主政治的有益尝试。但在政局动荡、百般掣肘的情况下，手无兵权的林森就难以稳固他的地位。林森任职两个多月后，广东的形势发生了变化。1923年1月16日，以滇桂联军为主力的西路讨贼军击败陈炯明，陈炯明逃往惠州。孙中山已经任命许崇智为“东路讨贼军总司令”，命他率军回粤打击陈炯明残部并稳定广东省政局。
2月2日，许崇智奉命率军离闽回粤。林森在福建失去军事力量的支持。闽军总司令王永泉趁机排斥林森，怂恿福州所谓“公民团”掀起“倒林拥萨”风潮。林森所面临的形势非常危急，有人劝林森暂时避让，林森则说:“我奉命来，不得违命出，生死进退唯总理命是从。”
孙中山对林森给予坚决支持:“子超为最忠于吾党主义，力倡民治之一人。”针对福州的“倒林拥萨”事件，他“发电大骂假冒公民，此间当维林排萨，并极力之所至以达此。”
但是2月8日，福州所谓“公民大会”依然推举萨镇冰为省长。在段系人士的奔走下，“倒林拥萨”风潮愈演愈烈，孙中山也难以制约得住。
鉴于广东已重新为南方政府所控制，福建的战略地位显得次要并已无法左右，孙中山准备返粤就任大元帅也需要得力之人襄助，就同意林森辞去福建省长之职。
2月25日，林森自行辞职，结束了3个月风风雨雨的省长生涯，一肩行李，两袖清风地离开省府。应老朋友林右箴的邀请，林森到连江青芝山做短暂休息。青芝山草木葱茏、岩洞奇特、环境幽静。刚离开政治风潮，身心疲惫的林森深深爱上这块清幽的地方，于是就托人买下山上一块杂地，立为“陶江界”，准备建一别墅，作为自己退身之所。3月1日，萨镇冰从福州南台海军公所迁入城内省长公署，正式通电出任福建省长。
“倒林拥萨”尘埃落定，在这两种政治力量的较量中，林森被萨镇冰取而代之。但他俩并没有结下个人恩怨。1936年8月，时任国府主席的林森衣锦还乡，乘坐挂元首旗的汽艇在马江码头登陆，改乘汽车进城，受到福建省政要及其群众的热烈欢迎。萨镇冰也站在欢迎群众的队伍中，被人发觉，告诉林主席。林森立即下车与萨镇冰握手致谢，并请上车同坐，萨镇冰婉言辞谢。1945年福州各界捐资改建镇海楼为林森纪念堂，开工典礼则是由萨镇冰主持。这是后话。（林友华）
