1926年8月，胡蘭成出門往北京。
胡蘭成被郵局開除，回家裡待了兩個月。他不願再回胡村小學堂去做孩兒王教書，可又無其他事可做。一天，他忽然想起，兩個中學同學於瑞人和趙泉澄已到北京燕京大學讀書，自己何不也前往一試呢？於是立刻準備出門。
此時家裡已山窮水盡，無法湊出路上盤纏給他。巧的是，村上有人以為他要去杭州，托他帶兩塊錢到杭州城裡買旱煙，他正好拿來做路費到了杭州。他找到杭州中學同學家借得十六元，買了煙寄回村裡，自己再往上海。到了上海他又如法炮製一番，到同學家借得四十元，然後一路看著地圖，換坐了幾次火車，渡長江過黃河，一路望著沿途風景，就這樣赤手空拳到了北京。
胡蘭成找到在燕京大學讀書的同學，由他們介紹到燕大副校長辦公室抄寫文書，每日工作三小時，其餘時間任他自由安排。燕大是美國用庚子賠款辦的教會學校，胡蘭成中英文都不差，且中學讀的也是教會學校，能被錄用不奇怪，抄寫文書只是一般文員，不算是燕大學生。抗戰勝利後，胡蘭成逃匿在溫州，與夏承燾[1]等人交遊時曾向夏說，自己曾肄業北京大學。這是胡蘭成的虛榮假冒。他以北大替代燕大，這還沒多少出入，說肄業差別就大了，肄業生不管什麼情況下離校，也不管上學多少時間，但與隨便聽課的有一個最大差別，就是肄業生都是經由正式考試進入大學的。
胡蘭成為何不再考大學呢？何況此時他已在大學中，有近水樓台之便？
胡蘭成寫過數百萬字著述，自傳體作品長達六七十萬字，可這一件事他始終沒提起過。他為何不再繼續學業考大學？是因為他被學校開除，沒有中學畢業證書，無資格考？可當時中學沒畢業上大學的人多的是。或是他考過，而且從時間上來看，考了不止一次，只是沒考取？看來，更可能是後者。至於上大學的供應，義父儘管去世，義母仍會繼續的，他成婚後義母剛給了他一份田產呢。所以，胡蘭成進過大學，在燕大一年，卻不算學生，他的學歷仍只是中學，而且中學也不曾畢業。以後他曾不無自豪自傲地宣稱，自己在社會上做事，是既無學歷，亦無同學援引，而且學無師承，可說是自學成才，自我奮鬥才出頭的。自我奮鬥、自學成才那是不錯的，同學援引多少還是有的，他沒有大學學歷，沒有中學畢業證書，那也是確實的。
胡蘭成每天工作三小時，其餘時間就到燕大校園內各處教室去自由旁聽，他沒有目的，也無特殊的學業興趣，只是隨意選課聽，因此而見到過許多名人，如周作人，如歷史學教授陳垣[2]。他檢討在燕大一年的成果，覺得自己「在燕大沒有學到一點東西，卻只是感受了學問的朝氣，不是學問的結果，而是學問之始」[3]。也就是說，他在燕大這一年，不曾學到什麼具體知識學問，只是使他接觸了各種新思想新學說，瞭解了現代科學文化的基本面貌，懂得了一點做學問的基本道理而已。
北京舊都，歷代皇城所在，胡蘭成工餘課餘時間也去各處踏訪，他去過圓明園廢址，游過頤和園，旅行南口，登長城，訪了明十三陵，城內的，他星期日常去的是東安市場、前門和紫禁城，後者只是在門外走走，裡面沒有去過，故宮當時的門票要五元，他捨不得。北京是京戲名角薈萃之地，他也只看過一次梅蘭芳。他更熱心的還是現實政治。
1926年，是中國革命的高潮期，自孫中山先生「聯俄、聯共、扶助農工」三大政策，國民黨和共產黨合作，在南方組織了革命政府，廣州成為革命的中心。廣東國民政府肅清了廣東境內的反動軍閥勢力後，兩廣實現了統一。隨後，南方政府組成了國民革命軍，7月9日正式誓師北伐，目標直指盤踞在中原的吳佩孚、東南沿海的孫傳芳和北京的張作霖。革命軍一路北上勢如破竹，節節勝利。北京雖然仍是張作霖的天下，但社會上已不平靜，各大學校園內風起雲湧，人心思變，經過了「三·一八」慘案，奉系入關取代了段祺瑞政府，北京的學生和教授普遍厭棄了那走馬燈般輪轉的北洋軍閥，都在準備著迎接南方軍的到來。
就在這樣的熱烈氣氛中，胡蘭成加入了一個黨。不知是他真糊塗還是假糊塗，他弄不清楚自己加入的究竟是國民黨還是共產黨。其時國共合作，兩黨集中對付的是北方軍閥，其目標和任務在各地基層組織中無太大的分別，從活動內容來看，胡蘭成參加的應是共產黨為骨幹和領導的國民黨。
胡蘭成所在的燕大學生組織，由燕大四年級學生卿汝楫[4]負責，每星期活動一次，就在卿的學生宿舍裡學習開會，主要由卿宣講黨的現階段政策和當前的形勢分析，也講一點社會主義理論。胡蘭成在自己的燕大同學那裡已見過馬克思主義書籍，如布哈林的《共產主義ABC》和馬克思、恩格斯的《共產黨宣言》，但他只隨便翻翻，沒有仔細看，在卿汝楫領導的組織活動中，他才真正開始接觸馬克思主義，瞭解了階級鬥爭理論和社會主義的目標。
卿汝楫是個老練的革命者，負責燕大的黨組織，在李大釗的直接領導下工作。李大釗當時既是中國共產黨的中央委員，國共合作後也是國民黨的中央執行委員，既負責中共北京地方執行委員會，又是國民黨北京執行部的組織部長。卿汝楫受李領導，可能也是具有雙重身份的北京地方委員。胡蘭成對卿的人品才能十分佩服，卿有關政策的解說和形勢分析，打開了他的眼界，在他而言樣樣都是新知識。1927年4月6日，李大釗在俄國大使館召集會議，被張作霖派人捕去，三周後李大釗及其他七名委員英勇就義。卿汝楫也參加了這次會議，只是因為會後他一人先返校，才倖免於難。
對李大釗等人的不幸遇難，卿汝楫悲憤交加。燕大是美國人所辦，雖然也有密探到處窺伺，卻還不敢在校園內公然捕人。但自此，卿汝楫每有事必須出外時，胡蘭成總自告奮勇地陪他同行，他心裡只有一個念頭，如果遭遇不測，他就挺身而出掩護，即使因而遭遇不幸也在所不辭。他感到，卿的才華能力是自己萬萬不及的，他若不幸遇難，對事業是個重大損失，而自己則無所謂。可他這番心意，從沒對卿吐露過。他憤慨於李大釗的被害和軍閥的肆虐，他甚至在內心暗暗下著決心，欲學刺秦的荊軻做拚死一搏。張作霖到西山去，汽車要經過燕大校門外，他為此獨自計劃了許久，一天，他鄭重其事地對卿汝楫聲言：「我要行刺張作霖。」他如此對卿說明，不是想邀卿的看重，只是怕自己設想不周，想得到卿的最後認可。卿明白他要替殉難烈士報仇的心意，卻只淡然道：「那可用不著。」胡蘭成只是因為信服卿，怕自己的舉動妨礙整個大事業，這才罷手，沒有去捨身行刺。
這位為他所深深敬重的卿汝楫，胡蘭成在亡命溫州時，從報上得知，卿在上海聯合國軍的機關裡任職，卿並沒有他當年所想的那麼偉大，也不曾成就什麼了不起的事業。他曾自問，如果當年自己替他死了，是不是值得？無悔青春，他對當年的衝動倒不認為有怎樣的荒唐可笑。
胡蘭成在燕大一年，正是北伐軍高歌猛進的一年，1927年初春，北伐軍已攻克了武漢，繼而定都南京，其前鋒渡過長江，直指北京。胡蘭成即時束裝南歸，他從天津乘船到上海，再搭滬杭路火車到杭州。一路上所見，南方與北京全然不同，已是一派新人物新景象。可他回想自己，一年北上了無結局，南歸也沒有一點計劃，個人前程仍是個問題。他住杭州一宿，第二天渡錢塘江，看著茫茫的江面水色，不由得悵惘，今後的出路在哪裡呢？