導航雲台書屋>>百科書籍>>卡爾·薩根>>布魯卡的腦——對科學傳奇的反思

雲台書屋

第二十章 為機器人辯護


  ……因為你的形狀是這樣引起我的懷疑,我要對你說話;……

                  威廉·莎士比亞

              《哈姆雷特》,第一幕,第四場

  「機器人」這個詞,是從斯拉夫語「勞動者」一詞的詞根派生出來的,它是由捷克作家卡雷爾·卡佩克(Karel Capek)最先引用的。然而,這個詞並不是用來表示人類勞動者的,而是用來表示一種機器。機器人,尤其是太空機器人,經常在報刊上受到無端的貶責。我們常在報刊上讀到這樣一些描述,阿波羅11號登月著陸的最終調整,必須由宇航員來進行,否則的話,第一次載人的登月飛行就會以慘重的失敗而告終;機器人在火星表面挑選要帶給地球地質學家的樣品時,決不會表現得像宇航員那樣精明強幹;這些機器人也決不會像人那樣能靈巧自如地修理太空實驗室的太陽遮光罩,以保證太空實驗室的持續飛行。

  然而,所有這些帶有成見的機器人與人的對比寫照,畢竟是由人自作聰明地勾畫出來的。我不禁懷疑,在這些判斷中是否已不知不覺地滲入了一些自我炫耀的因素,滲入了某種人類沙文主義的精神。就好比在白人中有時能發現種族主義以及在男人中也能偶爾看到對婦女的性別歧視那樣,我懷疑我們是否也能在這些不公正的描繪中,瞥見某種相類似的人類精神在悄然作祟——這是到目前為止還叫不出名的一種病患。它和「人類中心說」一詞的含義還不盡相同。「人道主義」一詞已經被我們人類賦予了其他一些諸如仁慈、行善之類的含義。鑒於這種病態般的人類精神與性別歧視和種族主義極為相似,我想將其命名為「人種主義」——即一種認為任何生物都不如人類那樣完美、能幹、可靠的偏見。

  我們之所以說這是一種偏見,至少是因為,在所有事實被弄清之前,就如此這般地妄加評判,甚至由此引出了不符合實際的結論。這種太空中人與機器的比較。實際上是聰明人與愚笨的機器的比較。我們倒要問問,究竟建造什麼樣的機器曾耗費過三百億美元左右的資金?然而「阿波羅號」宇宙飛船和太空試驗室就花費了這樣一筆巨額資金。

  每一個人體都是一台結構精巧、非常嚴密、自我控制的計算機——能應付裕如地獨自作出決定並真正控制他或她的環境。而且,正像流傳著的古老笑話那樣,這樣精密靈巧的計算機竟也可以通過笨拙的勞動建造出來。可是在某些環境中,人的行動是受到嚴重限制的。沒有大量的防護用品,人類就無法鑽進海洋底部,登上金星表面,深入木星,甚或作長久的太空飛行。機器在太空實驗室中哪怕停留數月之久,它的骨骼也不會像人類那樣發生嚴重失鈣和磷的現象,這也許是機器在太空實驗室中未能取得的唯一有趣的結果——這似乎意味著人類自身是沒有能力在重力為零的狀態下飛行六至九個月或者更長一點時間。然而,星際航行的特點是,每次航行起碼要花費一年或兩年的時間。因為我們非常珍視人的生命,所以我們不願意委派我們的人類同胞去執行這樣冒險的飛行任務,如果我們非要把人類送往別具異域風光的空間環境的話,那麼,我們必須同時送去他們所需的食物、空氣、水、舒適的生活設施和廢物回收設施以及伴侶。比較起來,機器則不需要複雜的維持生命的自我調節系統和設施,不需要文化娛樂,不需要伴侶,並且,我們還沒有感覺到有任何強烈的出於道德觀念的精神束縛而反對把機器送去執行一去不復返的或自取滅亡的任務。

  當然,就簡單的飛行而言,機器實際上已獨自執行過多次任務了。無人駕駛的宇宙飛行器已經拍攝出整個地球的和月亮背著地球一側的首批照片;它們已經在月球、火星和金星上進行了首次著陸;「水手9號」和「海盜號」宇宙飛船在飛往火星的途中,還第一次對火星的運行軌道進行了全面的勘察。就是在地球上,機器人操縱生產的情況也日益普遍,一些技術性很高的生產——例如化學品和藥物生產廠——大部或全部置於計算機控制之下。在所有這些控制活動中,機器都能在一定程度上發覺錯誤,糾正錯誤,並將所發現的問題向遠距離操縱的人報警。

  計算機解算術題的強大能力——比常人獨自運算要快幾億倍——簡直是傳奇式的。然而,真正使人感到為難的事情到底是什麼呢?機器能海闊天空,富於想像地隨意思考新問題嗎?它們能夠像我們人類那樣隨機應變、巧妙應答嗎?(也就是說,我提出問題1;如果答案是A的話,那我就提出問題2;但如答案是B,我提出問題3;以此類推。)幾十年以前,英國數學家A·M·圖林(A·M·Turing)描述過他認為能夠確認機器有智慧所必不可少的條件。這個條件簡單說來,就是他雖然用電傳打字機和一台機器交談,卻辨別不出談話對象並非是人。圖林設計了如下一般機器與人所進行的對話:

  提問人;在你的十四行詩的第一行中,是這樣一句詩,即「我願把你比作一個夏日」。是不是改為「比作春日」也行,或者更好些呢?

  計算機說;這恐怕不合格律吧。

  提問人:「比作冬日」怎麼樣?這回該符合格律了吧。

  計算機:是的,但是誰也不願意「比作冬日」呀。

  提問人:你不是說皮克威克先生提醒你想起了聖誕節嗎?

  計算機;是的,他以某種方式提醒了我。

  提問人:然而聖誕節就是一個冬日啊,我想皮克威克先生是不會介意這種比喻的。

  計算機:我覺得你的這種比喻不太嚴格,詩中所提到的冬日是一個典型意義上的冬日,而不是一個象聖誕節這樣的特定的日子。

  儘管我不敢斷定將來究竟會有多少人能通過這種圖林人的測驗,可目前畢竟還是沒有製造出這種能說善辯的裝置。然而,當前所存在的困難是投放到人工智能上去的力量和資金總額還是十分有限的,全世界也不過只有大約六個人工智能的主要中心。後來,在麻省理工學院工作的特裡·威諾格雷德(Terry Winograd)經過一番努力,在一項內容有限的話題——兒童積木上取得了更驚人的成果。下面是人和機器的一段對話,該機器的工作程序是由威諾格雷德編製的。

  問;這盒子裡是什麼?

  答:是藍色稜錐體和藍色盒子。

  問:那麼有多少木塊不在盒子裡?

  答:有四塊。

  問:它們中間是否至少有一塊比我讓你撿起的那塊窄些?

  答:是的,那塊紅色正方形木塊窄些。

  問:是不是有塊尖頂木?

  答:真抱歉,我不知道「尖頂木」這個問是什麼意思?

  問:尖頂木就是一種堆垛的積木,比如說它包括兩塊綠色四方木塊和一塊稜錐木塊。

  答:我明白了。

  問:那麼,這裡有尖頂木嗎?

  答:沒有。

  問:搭一個吧。

  機器人動手搭積木了。它伸出它的機械手,移動方形木塊並搭起了剛才所描述的那種結構。

  問:你什麼時候撿起來的那塊稜錐木?

  答:在我搭好那塊紅方木、大紅木塊和大綠方木的時候。

  問:為什麼?

  答:為了把它去掉。

  問:你為什麼要去掉那塊方木?

  答;為的是把它放在大綠方木上去。

  又如另一個例子是麻省理工學院的約瑟夫·韋曾鮑姆(Joseph Weizenbaum)設計出來的機器精神病醫生。這部機器的工作程序要比威諾格雷德的機器人簡單得多,因為它涉及到啟髮式的心理療法,只需要極其簡單的思維計算程序。下面就是病人與計算機精神病醫生(簡稱「醫生」)之間的一段驚人的對話。(當然,這裡選的是效果較為理想的例子,而其它許多機器與人之間的類似精神病學對話並非如此動人心魄,但是我想,大多數人與人之間的精神病學對話也不見得會比這種對話更精采多少。)

  病人:男人們都一樣。

  醫生:這是從哪一方面來說的呢?

  病人;他們常常不是為這事就是為那事而給我們找麻煩。

  醫生:你能舉出一個特殊的例子嗎?

  病人:你看,我的男朋友竟把我弄到這兒來了。

  醫生:噢,是你的男朋友把你弄到這兒來的呀!

  病人:因為當時他發現我情緒很低落。

  醫生:聽說你情緒不好,我很難過。

  病人:他是對的,當時我是很不快活。

  醫生:你想過沒有,你到這裡來會有助於你消除煩惱。

  病人:的確,我需要某種幫助,這一點很清楚。

  醫生:如果你得到某種幫助,對你來說將意味著什麼?

  病人:也許我能學會如何和我母親相處過日子。

  醫生:請多談談你的家庭情況好嗎?

  病人:經常照顧我的是我母親。

  醫生:你家裡還有誰照顧你?

  病人:我父親。

  醫生;是你父親嗎?

  病人:你在某些方面挺像我父親的。

  醫生:你看什麼地方象?

  病人:你性格不是很暴躁,但是我認為你並沒想要我注意到這一點。

  醫生:是什麼使你覺得我性格不很暴躁?

  病人;因為你不和我爭吵。

  醫生:為什麼你認為我不和你爭吵?

  病人:你怕我。

  醫生:覺得我害怕你能使你高興嗎?

  病人;我父親就覺得我怕他並因此而感到高興。

  醫生:當你想到你父親的時候,你是否還有過其它的想法?

  病人:他是響噹噹的男子漢。

  醫生:事實上,你的男朋友把你弄到這兒來,還是有點事情可以干幹嘛。

  計算機的這種應答如流的精采表演真使人忍不住要說它是「有知覺的了」——當然,計算機的所有這些答覆都是事先設計編製的程序。但是,真正的精神病醫生的回答也不過如此而已。我甚至設想當我們的社會似乎有越來越多的人需要用精神病學的知識來自我開導時,當計算機被廣泛應用時,可以創辦一個治療精神病的計算機終端網,就好像是一排排的大型電話間,我們只要花上幾元錢就可以和網點中的任何一位體貼入微,經檢驗是完全稱職的,其大多又不是真正的精神病醫生交談。目前,有待深入研究的幾個重要課題之一,就是如何保證精神病學對話的準確可靠。

  智能機的另外一些成就,還表現在下棋遊戲上。即便是十分簡單的計算機——一個十歲的聰明孩了就能組裝——一經編製了特定的程序就可以嫻熟無誤地表演「井字棋」棋藝。有些計算機還能夠扮演世界級方格棋棋手的角色。國際象棋當然比井字棋或者方格棋要複雜多了。在象棋棋弈中給計算機編製一套能獲勝的程序是比較困難的,然而我們還採用了不少新奇的技巧,其中包括使計算機學會比以往參加棋賽的經歷中汲取經驗的幾項相當成功的嘗試。例如,計算機能憑經驗學會這樣一條規則,即在棋賽一開始時就控制住棋盤的中心要比控制其邊緣更為有利。目前,世界上十名最佳國際象棋手對已有的計算機還未感覺到任何威脅。但是,情況正在不斷變化。最近有一台計算機表現得很出色,並終於首次成功地參加了明尼蘇達州國際象棋公開賽。大概可以說,地球這個行星上非人類物體還是第一次參加這種重大的競技運動。(我不禁想到,玩高爾夫球的機器人和被指派進行格鬥的計器人在今後十年裡是否也會嶄露頭角呢?至於機器人的海豚式自由泳比賽,似乎就更不用說了。)雖說那台計算機在那次象棋公開賽中並沒有獲勝,然而,它畢竟是出色地進入這種比賽的第一台計算機。這種會下棋的計算機正在極其迅速地改進中。

  我也曾聽到過一些有意貶低計算機的言詞(往往帶有一種頗感遺憾的歎息),當然這是由於在象棋領域中,人類棋手仍佔優勢的這一事實引起的。這使我驀然想起一個寓意深遠的古老笑話,說的是一位異鄉過客,對一隻會表演數方格的狗所取得的驚人成績讚不絕口。可是狗的主人卻回答說;「哦,這還不算是最精彩的哩,它在三次表演中就錯了兩次。」一台能以中等人類競技水平下棋的機器可算是一台很有能力的機器了;儘管人們中存在著數以千計的優秀棋手,但也還存在數以百萬計的劣等棋手。一個優秀的棋手不僅需要有策略、預見和分析能力,而且還需要具備把大量變化因素彼此相互聯繫起來,並能從以往的經驗中汲取教訓的能力。對於那些從事發現和探索工作的人們來說,以及對於那些護理嬰兒和馴狗的人們來說,是否具備這些優秀品質,乃是關係到事情成敗的重要因素。

  上述一系列多少具有代表性的例子,表明了機器智能的發展狀況,顯而易見,再努力奮鬥十年,就可能產生出許多更高級的樣機來。這也是從事機器智能方面大多數工作人員的看法。

  在設計下一代智能機器時,最關鍵的是要使自我控制機器人有別於遙控機器人。自我控制機器人的智能系統是存放在其內部;而遙控機器人的智能系統則在其他的某個地方,它的成功操作取決於遙控它的中心計算機和本機之間密切的通信聯絡。當然,也存在介於兩者之間的另一種情況,即智能機器有一部分是自動的而另一部分則是遙控的。這就是遙程控制和就地控制的一種混合形式,它似乎能在不久的將來發揮出最高效能。

  例如,我們可以構想出這樣一種專用於海底採礦的機器人。海洋深處到處佈滿了大量錳核。人們一度認為這些錳核是隕石落到地球上而形成的,但是,目前時髦的看法則認為由於地球內部的地殼構造活動造成了巨大的錳噴泉,從而導致了錳核的偶然形成。在海洋深處還發現了其它許多具有工業價值的稀有礦物。我們今天已經有能力設計一系列可以在海洋底部來回游戈或緩慢爬行的裝置;能對地表物質進行分光光譜測定以及進行其他化學檢驗的裝置;能通過無線電將海洋底部的所有發現物的信息發送回船隻或陸地的裝置;以及能夠標明海底發現物、特別是貴重礦物的礦床位置的裝置——例如,通過低頻無線電自動導引裝置去定位。隨後,無線電信號就可將大型採礦機械引導到適當的位置上去。深海潛水艇技術和太空飛船環境中的傳感器技術能夠有今天這樣的成就,顯然是和這類裝置的發展分不開的。至於近海石油鑽探、煤礦和其他地下礦藏的開採所取得的巨大進展,也同樣是與智能裝置的發展密切相關的。從這些裝置的安裝使用中收回的經濟效益不僅可以為上述那些事業的發展提供資金,而且可使整個太空計劃長期受益。

  當這些機器突然面臨特殊的困難條件時,已編製好的程序設計使它們承認,這些情況超越了它們自身的能力而難以應付,於是就向操縱它們的工作人員詢問——為了能保證在安全和愉快的環境中工作——下一步該怎麼辦。剛才所列舉的這些智能機器大多是自我控制型的。當然反過來按遙控處理也未嘗不可。在美國能源部的實驗室裡,就按照遙控設計路線對強放射性物質的遠距離處理,做了大量的探索性工作。說到這裡,我設想有這樣一個人,他通過無線電路與一台活動裝置連接起來。比方說操縱者就在馬尼拉;可活動裝置卻在棉蘭老海的海底深處。同時操縱者又與一系列電子傳送裝置聯繫在一起,這種電子傳送裝置可以將他的動作放大並傳送給那台活動裝置,並且反過來又能把活動裝置的海底發現變成無線電信號往回傳送到他的感覺中去。因此,當操縱者的頭向左扭動時,活動裝置上的電視攝像機也隨之向左轉,從而操縱者就能從他周圍一個巨大的半球面的電視屏幕上看到由活動裝置的探照燈所照射到的並由攝像機揭示的海底景象。當馬尼拉的操縱者身著電子服裝向前跨出幾步時,位於海底深處的活動裝置也從容、輕巧地朝前邁幾步。當操縱者伸出他的一隻手時,活動裝置的機械手臂也倣傚著自動伸展開來;由於人和機器之間彼此的行為達到了如此完美的協調一致,因此,我們將可能通過機器的手指來精確處理海洋底部的物質。有了這樣的裝置,人類就能夠進入他們原本無法涉足的自然禁區中去了。

  為了對火星進行探索,無人駕駛飛行器已經在火星軟著陸,不久,它們就會像月球上的旅行器那樣在這顆紅色行星的表面上稱心如意地四處漫遊。我們還未打算向火星發射載人的宇宙飛船。我們當中有些人對於執行這樣的飛行任務憂心忡忡,因為其後果不僅有可能把地球上的細菌帶到火星上去,而且,假如火星上也有細菌的話,同樣可能會把火星上的細菌帶回到地球上來,並且這種飛行要耗費巨額資金。1976年夏,留在火星上的「海盜號」著陸器,裝有一系列非常有趣的傳感器和科學儀器,它們是人類感官向異域環境的延伸。

  「海盜二號」裝置,顯然由是用於探索火星的,是「海盜號」的主要附屬裝置,這是一種利用海盜技術而設計的「海盜號漫遊器」,它與「海盜號」宇宙飛船的結構完全相同,只是更科學一些,被裝上了輪子或履帶,可以緩慢地在火星地表上隨意爬行。但是,現在我們又遇到一個新問題,這是一個在地球表面上進行機器操作時從未遇到過的問題。雖然火星是第二個離地球最近的行星,但畢竟離地球還是很遠的,以致於不得不用光速時間表示。按火星和地球的標準相對位置來說,從地球到該行星的距離為20光-分。這樣,如果宇宙飛船碰到險峻的陡坡不得不急劇升降的情況時,它就會向地球發回信息並請示對策。於是,四十分鐘後,將得到諸如「看在上帝的面上,立即就地停住」之類的答覆。然而,到那個時候,不靈巧的機器早已跌進深山峽谷中去了。因此,任何火星漫遊器都需要裝有斜坡陡壁傳感器。非常幸運的是,這樣的傳感器並不難弄到,而且甚至已應用於某些兒童玩具中了。當遇到陡峭的斜坡或巨石時,飛船或者停下來等待,直到接收到地球對它的請示報告(及地形的電視錄像)作出的指令性答覆時為止;或者乾脆掉轉頭來朝別的安全方向駛去。

  到二十世紀八十年代,宇宙飛船的計算機很有可能會裝上更精密的隨機決策電路。為了將來能對更遙遠的目標作進一步探索,我們可以設計出一些沿軌道環繞目標行星飛行的擬人控制器,或者設計停留在目標行星的一個衛星上的擬人控制器。例如,當我們對木星進行探索時,可以設想將擬人控制器放置在木星強烈的輻射帶之外的一個小衛星上,從而就控制了遨遊在木星密雲中的宇宙飛船,這樣,只消幾秒鐘的功夫就可以對飛船作出應答性指令了。

  如果地球上的人們情願在這項事業上花費一些時間的話,同樣也可以置身於這樣一種相互影響的控制回路中。但是,如果在火星探索過程中,每一項決定都必須由地面上的操縱者供給的話,那麼,漫遊器一個小時就只能移動幾英尺了。不過,這種漫遊器的壽命很長,以致於一小時幾英尺的速度都算得上是相當可觀的進步速度了。然而,當我們設想到太陽系最遠的行星去探險時——並且最終飛到其他星系去的時候——顯然,承擔更重要責任的將是自我控制型智能機。

  在發展這種智能機的過程中,我們發現一種與生物學進化相類似的情況。「海盜號」漫遊器就像是某種軀體龐大,行為笨拙的昆蟲,這種似曾相識的感覺真可謂奇特。當然這種智能昆蟲還無法自動行走。並且肯定不能自我繁殖,然而,它卻有一副外露的骨骼,有一系列類似昆蟲的感覺器官,它的智力跟一隻蜻蜓不相上下。不過,「海盜號」還具有一種昆蟲無法比擬的優點:它能不時地向其地面操縱者請示,並接收人類智慧的信息——操縱者能根據他們的決策重新編製「海盜號」計算機的程序。

  隨著智能機器這個領域的迅猛發展,並由於天文學的進步,使得太陽系中遙遠星體變得日益可接近和可探索時,我們就將看到,飛船上越來越精密複雜的計算機也會隨之迅速發展。智能機將緩慢地攀援它的種系進化之林,從昆蟲智能到鱷魚智能,到松鼠智能——我想,在不很遙遠的將來——會出現狗的智能。任何一艘飛往太陽系較外層空間的宇宙飛行器都必須裝有一台能夠確保飛行正常的計算機,因為不可能派地球上的人去修理。當機器產生故障時,它必須能及時感覺出來,並嫻熟有素地自己排除故障。因此,一種既能修理又能替換一台失效的計算機、傳感器或者結構部件的智能機器就成為必不可少的了。這種被稱為自檢自修(STAR)計算機才不過剛剛踏入發展的門坎。這種計算機裝有很多備用元件,像生物那樣——我們有兩葉肺和兩個腎,部分是因為當一個器官的功能喪失時,另一個器官就可代替和補償病變器官。不過,一台計算機所裝有的備件可能會比人身上的備用器官多得多。比如說,它往往不止有一個頭和一個心臟。

  重量的減輕,是茫茫宇宙中所進行的探索冒險能否成功的一個重要因素。這迫使人們不得不想方設法力促智能機器的繼續小型化。顯然,目前已經出現了一些引人注目的小型化跡象,二晶體管已取代了真空管,印刷電路已經代替了有線電路,全套計算機系統也已經被硅片微型電路技術所取而代之。過去多達1930台收音機所佔用大量位置的電路,今天卻可以印刷在僅佔用針尖樣大小位置的電路板上。如果在地球採礦和太空探索方面我們能夠應用智能機器,那麼家務和其他家用機器人的發展趨於商業化的時代就為期不遠了。而這類機器是不同於科學幻想小說中那種類似古猿人的機器的,因此沒有任何理由非要把它們的模樣打扮得如同真人一樣,其實,只要和真空吸塵器相差不多,也就心滿意足了。它們將按照各自不同的功能來進行專業化作業。然而有許多平凡的工作,從酒吧間招待員到擦洗地板的服務員,儘管所需的主要是體力和耐心,但也需要動點腦筋使之有條不紊。那些如同十九世紀英國正式的男管家那樣善於料理家務的多功能自動行走家庭機器人的出現,恐怕將是幾十年乃至上百年以後的事了。但是,承擔某項特定家務的專用機器人,則可能已經出現在世界上了。

  由智能機來承擔城市中的許多其他工作及日常生活中的一些基本事務的設想並非是可望而不可即的。二十世紀七十年代初期,安克雷奇、阿拉斯加和其他一些城市收倒垃圾的工人贏得了一項工資協議,以保證他們每人每年的工資收入達到二萬美元。由此可見,僅是經濟負擔這一條就有足夠的理由發展自動垃圾收集機了。當然,一俟家用和城市公用機器人普遍發展起來了,人們則不得不考慮如何有效地重新安排那些被機器人奪去了飯碗的人們的生計;但是,待到下一代新人出現之時,這種惱人的社會難題也就可望迎刃而解了——特別是如果開明的教育改革大見成效的話,人們就更不用為失去工作而發愁了,因為人類是樂於學習的。

  我們似乎已經開始踏上了發展各式各樣特殊智能機的歷程,可以想見,凡是對人來說太危險、太昂貴、太繁重或太令人生厭的工作,都將由特殊智能機來執行。依我所見,這類智能機的發展實在是太空計劃所必然帶來的少數幾樁盡如人意的副產品之一。甚至可以說,我們這個物種所賴以生存之基礎的農業,其能源的有效開發,或許也要視這類智能機的發展程度而定。然而,細細追究起來,這種智能機發展的主要障礙,實在似乎還是人的問題:是內心深處自發的,悄然而生的安於現狀的感覺,以及認為這種機器多少有點「令人恐慌」或者「不通情理」,擔心它們幹起工作來可能並不比人類遜色甚或更高明一些。或者有這樣一種厭惡情緒,即嫌惡這些智能物是由硅和鍺做成,而不是由蛋白質與核酸做成的。但是,作為一個物種來說。我們的生存很大程度上要取決於能否超越這種原始的沙文主義。我們對智能機的調節有幾成是適應新環境的問題。現在已經有了能夠感知人們心臟跳動的心臟起搏器;只要稍有纖維性顫動的暗示,起搏器就會馬上刺激心臟。這是一種令病人心舒意靜且療效卓著的智能機器。很難想像,佩帶這種裝置的那些受益者們會怨恨它的智能。我想要不了多久,就會有許多更精巧、更高級的智能機如同心臟起搏器一樣博得人們的歡心而被人們所採用。智能機一點也不粗野;它的確表現出了非凡的智能,在我們這個行星上的所有生物中,今天還只有人類擁有這種智能。

  
上一頁 b111.net 下一頁
雲台書屋