1. <u id="ivjgv"></u>
      1. <ins id="ivjgv"></ins>
        <u id="ivjgv"></u>
        <source id="ivjgv"></source>
        1. 金觀濤:我們活在“盛世”,卻從未如此恐懼風險

          選擇字號:   本文共閱讀 6423 次 更新時間:2019-07-28 17:16:55

          進入專題: 人文精神   人工智能   科學精神  

          金觀濤 (進入專欄)  

            

             我們雖然生活在一個基本沒有風險的太平盛世,對風險的恐懼卻達到了歷史上從來沒有過的程度。這不僅表明個人理想的消逝,還意味著人碰到災難時的驚慌失措,標志著我們再也沒有面對孤獨和死亡的力量了。

            

             為什么今天會存在普遍的人工智能焦慮?原因正是人文精神的喪失,這使得我們為人工智能技術的快速發展所迷惑,這才是我所擔心的,而不是技術發展本身。

            

             南都觀察:這次訪談的主題將主要圍繞“科技與人文”展開。在2017年發表的《反思“人工智能革命”》 一文中,您表達了身為哲學家的憂慮,認為當前人工智能革命是一場“退回到原點的革命”,其背后是“科學被技術異化和人文精神的喪失”。有觀點認為您對當前新興技術的發展前景過于悲觀,對此,您有什么回應?

            

             金觀濤:在我看來,這是一件顯而易見的事情。雖然我研究的是21世紀的哲學,但我是一個20世紀的人,并不完全清楚當代社會需要什么。當時《文化縱橫》的編輯勸我應該將這方面的想法寫出來,才有了那篇關于人工智能的評論文章。

            

             我相信,人應當是駕馭技術的,也就是技術的主體。技術首先是一個好東西,而技術進步之所以會帶來種種危害,是因為我們丟掉了個人的主體性和道德性,這是人工智能所不具備的。只要掌握人工智能技術的基本原理,就會發現人工智能根本不可能具有個人的主體性意識。我很疑惑為什么很多人會擔心它會形成獨立意識。事實上,人類至今都還沒有完全弄清楚什么是“意識”,這時人工智能作為“人造物”怎么可能具有意識呢?

            

             南都觀察:這可能是受到好萊塢科幻電影(如《黑客帝國》)的影響?

            

             金觀濤:好萊塢科幻電影所展示的不是真實的世界。我們的先輩即便看再多的科幻電影,也不會傷害自身的個人主體性,更不會擔心人工智能將取代人類。

            

             為什么今天會存在普遍的人工智能焦慮?原因正是人文精神的喪失,這使得我們為人工智能技術的快速發展所迷惑,這才是我所擔心的,而不是技術發展本身。

            

             需要補充說明的是,我在《反思“人工智能革命”》一文中指出,人工智能和歷史上有過的新科技帶來的生活方式和生產方式大變革相似,并不會改變現代社會的基本結構。但不可否認的是,人工智能正在影響現代社會的組織形式。

            

             眾所周知,現代社會除了由法律和契約提供組織框架以外,還必須向所有人提供不同類型的公共事務服務,如治安、交通設施、教育、醫療等等;為此就要設立處理不同類型問題的專門機構來管理社會,如軍隊和政府科層組織。

            

             科層組織之間的功能實現和協調,要利用符號表達的共享知識。因此,隨著現代社會的復雜化,必定出現技術官僚的膨脹。而人工智能革命,必定會向社會管理層面深入。如果它運用得不好,會使現代社會生長出超級而無能的官僚機構;如果它運用得好,可以促使人能更好地發揮自主性和創造性,甚至可以取代科層管理中不必要的機構。正因如此,新興技術的發展更需要人文精神的制約,使之向好的方向發揮作用。

            

             南都觀察:就您剛才提出的“人工智能不可能具有主體性”這一說法,美國人工智能倫理學家溫德爾·瓦拉赫有一個不同的說法:人工智能的道德發展將經歷操作性道德、功能性道德,和充分的道德主體性三個階段。其中操作性道德比較低端,是指道德已完全掌握在設計者和使用者手中;第二個階段是功能性道德,稍微高端一些,因為這個階段機器自身已經有能力響應道德挑戰;第三個階段就是計算機可以自己做道德決策的階段,當然第三個階段還是開放性的,哲學家、工程師們還需要探討單單靠一臺機器能否成為道德主體的問題。操作性道德和真正的道德主體之間還有著很多的空間。

            

             金觀濤:我不了解這個人的學術研究,但你介紹的觀點中涉及現代西方哲學對“道德”的一個誤讀,其將道德視作一個純粹的公共性社會機制。

            

             事實上,人只有先具備自主性,才能有道德。例如,在孔子那里,善首先是個體的自覺。儒家的君子人格,和社會上知不知道無關,正如一朵蘭花開在山谷,根本沒有人知道,但它卻依然芬芳。善的追求并不需要涉及別人。而在西方人看來,只有在分面包的時候才講道德,不涉及社會、人際關系的道德倫理是沒有意義的。

            

             換句話說,道德源于個體對善的追求,“善”是“好”的普遍化,每個人憑內心就能知曉何為“好”,而不取決于其做了一件好事還是壞事。從這個意義上來說,機器根本不可能成為一個道德主體。

            

             舉個例子,哲學家菲利帕·福特(Philippa Foot)于1967年提出過一個“有軌電車難題”:假設你看到一輛剎車壞了的有軌電車,即將撞上前方軌道上的五個人,而旁邊的備用軌道上只有一個人,如果你什么都不做,五個人會被撞死。你手邊有一個按鈕,按下按鈕,車會駛入備用軌道,只撞死一個人。你是否應該犧牲這一個人的生命而拯救另外五個人?

            

             這個倫理學思想實驗是荒謬的,它體現的是一種功利主義道德觀,將大多數人的幸福視作道德。這種道德觀是不成立的,例如在古羅馬斗獸場中,人與獸、人與人的搏斗會給現場所有人帶來快樂,但我們能因此說人與獸、人與人的搏斗是道德的嗎?

            

             總之,道德意味著人有選擇的能力,這個選擇能力包含著人對自己的態度,這是“人之為人”的前提所在。

            

             南都觀察:目前社會上還存在另一股截然相反的思潮:技術革命使得人類認識和操控世界的能力越來越強,人們似乎能夠自己扮演“造物主”的角色,對人類社會的前景又無限樂觀。您如何看待這種思潮?

            

             金觀濤:這是一種科學烏托邦,反映的是一種“理性的自負”。

            

             20世紀社會人文社會研究最重要的成就,就是發現“默會知識”和市場的關系。人類可共享的知識都是可以用符號表達的知識,但它不可能包含每個人都具有的“默會知識”。

            

             經濟學家利用“默會知識”的存在,證明了基于理性和科學知識的計劃經濟不可能代替市場機制。一個充分利用人類知識的社會,一定是立足于個人自主、互相交換自己的能力和知識形成的契約組織。忽視所有個人具有的“默會知識”,把理性和可表達的知識做出的人為設計社會制度付諸實踐,會出現與原來意圖相反的后果,如計劃經濟帶來的短缺、浪費以及普遍的貧困。哈耶克稱這種對可表達知識的迷信為“理性的自負”。今天隨著大數據和人工智能的應用,這種理性的自負再一次出現在人工智能領域。

            

             為這種理性的自負制作一份解毒劑,是當前思想工作者的一項重要工作,其核心就是恢復人的主體性。

            

             南都觀察:相較于人工智能領域,這種“理性的自負”在生命科學領域似乎表現得更明顯。

            

             金觀濤:是的,現在最大的問題不是人工智能,而是生命科學。

            

             我的兒子是一位生命科學家,他對未來生命科技的發展前景非常樂觀。但我總是和他唱反調,我說:“人不可能扮演上帝的角色,最后遲早會出現一條自然法則來證明生命科學是有限制的。科學家應該去將這個限制找出來,而不是為技術的突飛猛進而狂歡。”

            

             但與此同時,基因工程新進展所引發的巨變即將發生、無可阻擋。從歷史上看,人總是在沒有完全理解一個東西之前就開始操控、應用它——從蒸汽機、電力到互聯網、人工智能和生命科技,這也許是人的宿命。既然如此,我們該怎么辦呢?

            

             有個說法:人類的求知欲是無限的,其也將毀滅于自己的求知欲。其實,求知欲分兩種:一是宏觀的和哲學的;二是微觀的和細節的。我認為:人類將毀滅于自身宏觀理解能力遠遠跟不上對細節的了解和操縱。這一點在生命科學中表現得最明顯。盡管人類對自身的認識和操控能力越來越強,但是,人對生命的宏觀理解,都遠遠跟不上對生物細節知識的了解和操縱。

            

             南都觀察:這里似乎存在一個悖論——在面對人工智能革命的時候,您強調人的主體性問題;在基因革命面前,您又說不要將自己當成上帝。

            

             金觀濤:在我看來,這兩者之間沒有矛盾。

            

             科學發展有一個不變的內核:以人為中心,其指的是,人總是借由控制自己可控的變量,來研究自己不可控的對象。人從來不以自己可以直接控制的東西作為科學研究的對象。一把椅子為什么在這里?除非它涉及破案,即認識另一個主體的行為動機,否則我們不會為此作專門研究,更不會設立一門學科。因為那些人可以控制的變量集是我們能夠做各式各樣受控實驗的前提。通過這些受控實驗,我們獲得真實的經驗,界定穩定的存在,去理解世界和自己。

            

             也就是說,科學發展既涉及人的主體性發揮,也包含對未知世界的敬畏和敞開。

            

             而一旦人的主體性和探索未知的精神喪失,其影響將是毀滅性的。舉個例子,全球最大的在線影片網站Netflix可以根據大數據分析精準地預測每個用戶喜歡看哪部影片。研究表明:用戶會更喜歡Netflix推薦給他們的影片,甚至超過于喜歡他們自己挑選的影片。

            

             不難想象,在不遠的未來,我們的電腦和手機可能比我們自己更知道我們每頓飯都想吃什么、下一次旅游想去哪,機器會幫我們做出選擇。長此以往,人的自由意志將被慢慢腐蝕。無孔不入的多介質媒體將我們完全包圍,使每個人都變成膚淺的信息復制傳播器,所有人都活在永恒的當下,只關注轉瞬即逝的時尚和“此時此地”(Here and Now)。

            

          此外,1990年代,德國哲學家貝克(Ulrich Beck)提出現代社會是一個風險社會,這不無道理。表面上看,(點擊此處閱讀下一頁)

          進入 金觀濤 的專欄     進入專題: 人文精神   人工智能   科學精神  

          本文責編:limei
          發信站:愛思想(http://www.m8763.com),欄目:天益綜合 > 學人風范 > 當代學人
          本文鏈接:http://www.m8763.com/data/117464.html
          文章來源:南都觀察家 公眾號

          25 推薦

          在方框中輸入電子郵件地址,多個郵件之間用半角逗號(,)分隔。

          愛思想(aisixiang.com)網站為公益純學術網站,旨在推動學術繁榮、塑造社會精神。
          凡本網首發及經作者授權但非首發的所有作品,版權歸作者本人所有。網絡轉載請注明作者、出處并保持完整,紙媒轉載請經本網或作者本人書面授權。
          凡本網注明“來源:XXX(非愛思想網)”的作品,均轉載自其它媒體,轉載目的在于分享信息、助推思想傳播,并不代表本網贊同其觀點和對其真實性負責。若作者或版權人不愿被使用,請來函指出,本網即予改正。
          Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 愛思想 京ICP備12007865號 京公網安備11010602120014號.
          易康網
          插妹妹a片96