1948年11月，由孫科接任翁文灝為行政院長後，翁文灝即送家眷去台灣，他自己則獨自一人留在南京。心中的懊悔無法排遣，孫越崎便常去看他解悶。1948年除夕之夜，在南京，翁文灝和孫越崎一起守歲。孫越崎把10月間南京會議資源委員會決定留在大陸的情況告訴了翁文灝，並且說：那樣一個小小的海島，能有什麼搞建設的餘地？要搞真正的實業，還是留在大陸好。翁文灝搖搖頭，黯然神傷地說：你可以這樣做，我卻是不能不走的，我是第12名戰犯呀！說著指了指桌子上的那張新華社發表的戰犯名單。
1949年4月，國共和談破裂，翁文灝悄悄地告訴孫越崎，國民黨已經垮了，石油公司決定留在大陸，他讓長子翁心源也留下，維護好公司的人員和財產油料，他自己先去台灣，在那裡不打算久留，很快將轉去香港。在那兒再等等，看看事態如何發展，再定行止。
1949年5月，翁文灝準備帶翁心源去台灣探親。孫越崎知道後，忙趕來勸，說：心源還年輕，你何必害他呢？我看心源就不要到台灣去了。翁心源也連忙表示自己不想去台灣，並對父親說：您這次探親回來，請把兒媳和孫女從台灣接回來。翁文源鄭重應允了。
1949年9月27日，中華人民共和國建立的前夕，孫越崎在香港輪船碼頭遇見了翁文灝下船，一問才知道，翁文灝是要去廣州向李宗仁辭去秘書長職務，脫離國民黨政府。那一年翁文灝剛剛年過花甲，堂堂一個大中國的前行政院長，此時隻身一人到處奔走，不知將來歸宿何在，怎麼能不讓人心生同情。孫越崎心中動情，說：翁先生，資源委員會的人都留在大陸了，不久我也要回大陸，你的兒子、兒媳，孫女他們也都在大陸。只有你和老父老妻三人流落海外，晚景太淒涼了。翁文灝歎口氣說：我何嘗不想回大陸呢。孫越崎說：你先在香港住一段時候，托人與共產黨慢慢聯繫，得到許可就可以回家團圓。我們一些老朋友也可以經常見面了。這時，翁文灝抬起了頭，面對老友吐露真情，說了一句：我還是要想辦法回去的。但我回國的問題，非得到毛澤東同意才能解決，這就太難了。
孫越崎建議翁文灝找找邵力子，他在北平，是他們的好朋友。可以請他幫助。
六十花甲的翁文灝，此時居無定所，何去何從，命運把自己從一位實踐的地質學家，轉而從政，管理工業建設，最終搞成了個名列第12名的戰犯。這幾十年，他都是勤勤懇懇，兢兢業業地工作，日出而作，日入而息，每天過著極為忙碌，極為規律的生活，雖然曾遭過車禍，然而大難不死，焉知無有後福。現在，漂泊在海外，正因為有了思鄉、思子、思友、思國之情，才有了一定要返回祖國的信念。
實際上，中國共產黨人中的有識之士是絕不會放棄翁文灝的。上海解放後的第三天，陳毅就到資源大樓接見資源委員會留在上海的主要負責人吳兆洪，並問起翁文灝先生現在哪裡？吳兆洪回答：在法國。接著試探著說：他是戰犯。陳毅就說：他是書生，他留在國內，我們也不會難為他，請他就回來嘛。吳兆洪一聽，心中暗喜，趁機說：他的兒子翁心源就在上海中國石油公司工程室任主任。陳毅果斷地說：那很好，請他轉告翁先生回來吧。這樣，吳兆洪在上海徵得中共華東局統戰部的同意後，派代世英到香港勸說翁文灝轉變立場，與蔣介石劃清界線。
當時的翁文灝隱居在香港的銅鑼灣，石油公司宿舍，在這裡也有許多他的摯友來勸他和台灣方面斷絕關係。翁文灝有四男四女，除次子心翰在對日空戰中殉國外，三個兒子都在大陸，一個女兒在美國，三個在台灣，老父老妻當時也在台灣。孫越崎勸他快把老父老妻從台灣接來香港，遲則怕出不來，即使將來回不了國，住香港也比住台灣好。翁文灝趕緊去台灣，親自把老父老妻接到了香港，並寫信給在上海中國石油公司的大兒子翁心源到香港接祖父和母親回上海。
翁文灝歸國的另一個有利因素，正在於他的大兒子翁心源。駐中國石油公司的軍代表徐今強一直積極鼓勵翁心源爭取使翁文灝早日回國，翁心源也已由上海調到北京燃料工業部石油總局工作，與孫越崎就住在錫拉胡同的一個大院裡。他們倆常聯名寫信給翁文灝，報告國內形勢，周恩來總理則派了一個秘書專門同心源聯繫，瞭解翁文灝的情況。
這一步他走對了，離家又近了一步，他卻停住了腳步，仍住在香港。孫越崎給在北京的邵力子寫信說，翁文灝想回國，要請他幫忙。邵力子立刻回信說願意大力幫助，但一定要翁文灝先寫一份悔過書，這樣以便他能夠進言。
中央的明確指示使翁心源極為欣慰和振奮，他立即準備赴港。行前打電報給父親：我將來港探親，盼接祖父和母親來港。
翁文灝很快擬文一篇，文長兩千餘言，首述個人歷次從政經歷，最後表示：余本身志願，本非從政之才，更無從政之願。以前求學範圍，地質之外，兼重地理。歷年經行所及涉獵尚多。甚願得有餘時，閱讀記錄，為此新時代之一良民，倘能如願，實所企盼。
當時的孫越崎，應中國共產黨之邀正要北上，於是翁文灝托孫越崎攜帶一份書信進京轉呈中央，另一份由翁心源親帶上海。翁文灝還給邵力子寫信，希望通過邵力子與中央溝通信息，爭取盡早回國。
從當時的這封信中可以看出，翁文灝此時此刻既不是為自己的性命擔憂，也非為一家老小的安危惶恐，他唯一憂慮的是自己的一世聲名。而北京、上海卻遲遲沒有答覆。原來翁的自白書內居然還有「委員長蔣」、「行政院長宋」等字樣，這讓居中溝通的人士邵力子怎麼敢拿出手呢。
滯留在香港的翁文灝決定歸國，但他的態度與剛剛建立新中國的共產黨政府相去甚遠。翁文灝下不了決心，繼續留香港等待。台灣方面也在爭取翁文灝，他當然不回去，又怕被暗殺，因此臨時決定離港赴法國巴黎暫避，給台灣留下一紙辭職書，辭去他在國民黨政權中的最後一個職務──中國石油有限公司董事長，於11月下旬悄然離港赴法，翁心源則陪同祖父和母親乘船返滬。
翁文灝到巴黎後，一方面等待中共對他「自白書」的反應，一方面潛心讀書，欲探究世界潮流所向，各國盛衰之理，為此還翻譯了一本《近世西洋通史》。
朝鮮戰爭爆發後，美國第七艦隊進駐台灣海峽。台灣和美國方面開始關注翁文灝的行蹤。台灣駐法國「大使」段茂瀾三天兩頭約請他吃飯，或登門拜訪，促其早日赴美。美國雷諾金屬公司致信翁文灝，欲高薪聘為公司顧問；美國地質調查所也來函相邀。美國礦冶工程和機械工程學會甚至表示將特開大會歡迎名譽會員翁文灝赴美。10月，美國駐法使館三秘斯柏勞司還親到翁文灝寓所，表示儘管美國對國民政府的高官去美一律拒簽，「惟獨對你例外」。
此時，台灣也動員他去。何去？何從？翁文灝的面前擺著三條路：美國、台灣、大陸。
而翁文灝那封不夠深刻的「自白書」最終還是到了周恩來總理手中，並得到周恩來的諒解，周恩來考慮到讓一個孤懸海外，對共產黨、新中國沒有任何感性認識的人做出深刻思想反省的實際困難，同意他歸國之後再繼續提高認識，關於戰犯問題，周總理說，這是新華社發的消息，不是黨和政府正式宣佈的，可請其放心。1950年4月下旬，周恩來面告邵力子：中央允准翁文灝先行由瑞士轉蘇聯回國，回國後再商定發表聲明。邵力子當即於4月29日致函翁文灝，轉達周恩來的指示。信中說：「對于先生欲早歸國土，許為愛國，對於過去一切，亦並無不可諒解之癥結。」關於自白書一事，最後同意可徑到北京，「傾誠相談，再定稿發表」
接到邵力子信的時候，翁文灝依然在最後一道防線前徘徊。他對必須劃清界限，譴責蔣介石反動集團，似乎有一種難以啟齒的羞澀，回信要求聲明中只做自責，不罵他人。雖然如此，所有這些條件，都無法動搖翁文灝的歸國之情。他說：歸鄉尚少把握。叛國決非素心，審顧國局，不應逃亡，寧冒艱辛，歸向祖國。他給愛子翁心源寫信說：我心已定，不願在外蹉跎，近日即將歸來。
1951年1月，正是中國抗美援朝大軍跨過鴨綠江的時候，經過費力周折，翁文灝終於由法國回到了祖國懷抱，由香港當天便轉到廣州，又由中共廣州市委派人送他到了北京。此舉引起了當時國外朝野和台灣的強烈震動。在毛選第五卷中，毛澤東曾稱道翁文灝是「有愛國心的國民黨軍政人員。」
到家門口了，翁文灝沒想到自己還回不了家門。1951年3月7日，翁文灝回到北京，因為悔過程度不到位，不能回家，直接送到王府飯店，一住小半年。直到8月反省結束，這才回到家中，與闊別二年的親人團聚，祖孫四代閤家團聚，從此定居北京，翁文灝和孫越崎倆位老朋友亦同住在同院，朝夕相見，這位國民黨的前行政院長，此時，成了北京四合院中不計其數無人問津的普通小老頭兒。
蝸居家中的翁文灝趁這樣的賦閒時刻，寫下了回憶自己一生的長詩《洄溯吟》，共有58首七律組成。其中這一首關於從政的律詩，接上了翁文灝的來自鄞州的傳統文化背景：自問才非濟世佳，憑何救國作安排？
梨洲學識傳鄞萬，恕谷殷惓勝習齋。
識力為民應致用，精研有物不虛埋。
宗邦事不須臾待，要有明光掃陰霾。
閒居期間，翁文灝運用他所擅長的地質學、古生物學、古人類學、考古學等方面的綜合知識，開始研究中國古代史和人類進化史，概述人類進化發展的歷史過程，從地質時代、地殼形成、一直敘述到原始人類的語言、文字、藝術，其價值在於全文貫穿著唯物史觀，融會了中國古代典藉，學術觀點頗具開創性，並被後來的發現所印證。
學問越做越深，生活越來越苦，翁文灝養著父親和病妻。定居北京後已三遷其居，最後搬到一個大雜院裡去了。眼看著坐吃山空，他想找個工作而不得。最為可怕的是，他發現他被剝奪了選舉權。從政多年的翁文灝實際上早已不是自己想像的那樣，只要學術生命就可以安身立命了。他比以往任何時候都更需要政治生命。他發現，他周圍的那些當年的國民政府同事，現在在共產黨政府裡，照樣問政議政，便自問自己為什麼不可以。從香港歸大陸時他曾聲明政治污穢損害清譽，今後決不沾邊，希望致力於教學與研究。現在才知道，他早已離不開政治了。
他被剝奪了選舉權，這就好比剝奪了他的政治生命，打聽之後，內心更涼了半截，原來他不屬於起義者，和傅作義等人自然待遇不同。正值1954年8月，周總理托人給他帶來了共產黨的聲音，問他還堅持他的不罵蔣介石的立場嗎？他願意對台灣進行廣播嗎？
翁文灝非常願意，因為翁文灝要工作，要進行他的學術研究，更要他的政治生命，這比什麼有失君子之風要重大不知多少倍。況且，新中國成立後的開端，比那個讓翁文灝失望透了的蔣介石政權，不知道要清廉多少倍，他的實業救國的理想，在這個嶄新的政府面前，真正露出了希望的曙光。翁文灝願意在這樣的政府裡實現他的強國之夢，振興中華的理想，他要以一個公民身份生活在自己一寸寸丈量過的土地上。
站在這樣的認識立場上反省自己，自然有了不同的認識，正如他本人寫的「回憶往事」一文中所說的：我先治自然科學，後來參加蔣政權，我自心的志願卻是想超然於政黨之外，而始終沒有爭取正確的政治觀點，以致受環境之支配誤入歧途，不能自拔。
1954年12月4日，《人民日報》《光明日報》《大公報》同時發表了翁文灝的署名文章《沉痛追溯我的反動罪行》。中國共產黨的反應何其之快，當天下午，全國政協協商下屆人選，周總理就提名翁文灝並當場通過。第二天翁文灝又在各大報上發表了《在台灣的人們應速棄暗投明響應解放台灣》。第四天，各大報又刊登了翁文灝的《拒絕美國學術團體的名譽聯繫以抗議美國在台灣的狂妄行為》。同一天，全國政協正式通知他，他已經被當選為全國政協委員。
1954年12月20日，在全國政協會議上，翁文灝以大會發言的方式，公開表態要重新做人，報效祖國，並說：我是冒著危險又相信共產黨而回到祖國的。毛澤東則握著他的手高興地說：翁先生回來了，好啊，好啊！
立刻，一切都好起來了，月工資有了260元，是相當高的工資了。第四次搬家鹹魚翻身，一所四合院前後兩進，大小16間房子。1955年1月9日，翁文灝與夫人林韻秋金婚紀念的日子就在這裡進行。翁家四世同堂，其樂融融，翁文灝終於度過了人生凶險無比的政治險灘，開始了他相對平穩的晚年生涯。
歸家的道路並非坦途。新中國的地質部長是李四光，和翁文灝雖然是老相識老同事，但他們在學術上的觀點是不一樣的，再加上翁文灝的國民政府從政生涯，以及極左思潮的影響，翁文灝對中國地質學的巨大貢獻，被時代遮蔽了。