人工智慧與數據主義-《人類大命運》讀後心得-4


這篇講本書的最後一部分,也是個人認為全書最精采且”駭人”的部分

  書的最後一部份,哈拉瑞彙整了近年來生物科技與人工智慧的發展,並理出一個脈絡,認為自由主義將會崩解,然後AI將會崛起,這是我覺得本書最好的部分,對於未來趨勢,這本書的眼界比《謝謝你遲到了》更遠更宏觀,也更有邏輯性和思考深度(果然歷史學家出身和記者出身就是不一樣啊!),以下就書中的觀點和大家分享

自由人文主義的兩個挑戰

  首先談到自由主義的基本概念架構
自由主義的自我基於三個假設:
一、我是一個不可分割的個體
二、真正的自我是完全自由的
三、根據前兩個假設,我很瞭解我自己,我能夠瞭解一些別人無法瞭解我的事
  第一個挑戰是當生命科學和醫學不斷進展時,我們就一定會碰觸到自由意志這個概念,到底人有沒有自由意志?還是那只是大腦中眾多神經原釋放電訊號產生的結果?如果未來的科技能讓我們掌控這些放電機制,那麼人還有自由意志嗎?
  書中提到一個半機械鼠的實驗,科學家把電極植入大鼠的大腦給予電刺激,可以遙控訓練大鼠做出動作,而且大鼠不會有不舒服的感覺。如果問大鼠,牠可能也會覺得自己有自由意志,並沒有受到操控。
  而書中也提到Deniel Kahneman(2002年諾貝爾經濟學獎得主,《快思慢想》作者)的實驗告訴我們,人體內至少有兩種自我:經驗自我(experience self)及敘事自我(narrating self),經驗自我是我們每時每刻的體驗,但是它沒有深刻的記憶也沒有說故事的能力。敘述自我則負責喚起記憶、講故事、做重大決定。這種兩個自我的概念,很明顯的打擊到了自由主義中,自我是不可分割的概念。
  這部分我覺得是沒有什麼大不了的,頂多是一些哲學上的問題,或是學術界要去爭論的問題,至少這些對我們的生活不太會有重大的影響,我們的工作不會因為有兩個自我而改變,選擇伴侶時也不會因為有兩個自我而產生困難(反正一定是敘事自我在選)。
  第二個挑戰才是真正令人頭疼的,那就是人工智慧的崛起。哈拉瑞點出了電腦的發展可以分為電腦智能(computer intelligence)和電腦意識(computer consciousness),我們過去總是一廂情願的認為,電腦要超越人腦,必須要擁有意識才行。但是哈拉瑞認為,電腦不一定要有意識,只要智能夠強就足以將人類擊垮。像是AlphaGo雖然沒有意識,但它還是在圍棋上擊敗了人類。社會上其實有很多這種只需要智能但不需要意識和情感的工作,像是司機在經濟上的角色就是把車子快速的從A點移到B點,這種事情自動車很容易就能夠勝任,除非你喜歡和司機談天哈拉,不然自動車的優勢絕對是更快更安全更省成本。這部分是可以想像的,可能是未來幾十年就會發生的事,只要智能而不需要意識情感的工作,很快就會被AI取代了。
  再來是更可怕的,有沒有可能電腦比我們更懂我們自己?這也是進行式,當我們不斷的把自己的資料傳上Facebook、餵給google時,演算法就正在分析我們。哈拉瑞提到,如果未來穿戴裝置更蓬勃發展,甚至是出現DNA掃描,而大家也用願意上傳自己的基因分析時,或許演算法就可以透過這些大數據分析,知道我們是什麼樣的人,甚至知到我們在做一些重大決定時會怎麼想,以及該怎麼選會更好,像是職涯道路、交往對象。如果真的走到這步,自由主義就真的完全淪喪,即使我是不能分割的,但是大數據、演算法卻比我更了解自己,而且在面臨人生重大選擇時,還能做出比我更好的決定,那這樣「我」這個概念還有意義嗎?
  令人不安的是,這一切都是我們自願的,我們自願使用免費的facebook、instagram、google等等,我們把自己的一切都傳到網路上,俗話說的好,免錢的最貴,當我們使用這些免費服務時,實際上卻是在出賣自己的靈魂,讓我們向演算法宰制人類的世界,又更往前了一步。

兩種新宗教

  應對哈拉瑞在本書前面說的,科技與宗教的互相交織,當AI崛起後當然也會有新的宗教去應對,一個是科技人文主義,一個則是數據主義。
  科技人文主義認為智人(homo sapiens)應該運用科技提升為下一個物種:神人(homo deus),認為神人會保有一些人的基本特徵,但同時也有升級後的生理和心理能力,能夠對抗最複雜的無意識演算法。這個論點主要是基於,人的認知可以做第二次的升級,一萬多年前,心智的第一次的升級讓人類打敗猿人,因為我們可以瞭解互為主體的世界,也就是那些虛構的故事。而科技人文主義相信,第二次的升級可以讓人類更加提升。會認為我們的認知可以升級,是因為我們對認知的研究其實非常有限,哈拉瑞提到,目前對於認知、精神等的研究對象大部分都是西方受過教育的人,對於其他人種和社經地位的研究幾乎沒有。
  科技人文主義的困境在於,我們根本不知到人類以外的心靈感受是怎麼樣的,我們要怎麼朝那邊邁進、升級?像是我們不會知道身為一隻蝙蝠收到超音波是什麼感覺,也很難知道,要怎麼做才會擁有這種感覺。另外就算我們的認知升級了,成為神人,那這個世界對神人的意義可能又不同了,而且我們永遠沒辦法知道神人的感受,就像黑猩猩不會懂得人類的感受,牠們無法感受什麼是金錢、國家、公司。

數據主義

  第二種宗教,也是哈拉瑞認為比較可能的是數據主義(dataism),數據主義認為,宇宙是由資料流組成,任何現象或實體的價值就在於對資料處理的貢獻。數據主義認為,人類只是創造萬物互聯網的工具而已,而萬物互聯網可能從地球這個行星向外擴張,甚至到整個宇宙,這個宇宙資料處理系統將會如同上帝,無所不在、操控一切,而人類註定將會併入系統之中。
  簡單的說就是,數據主義認為生命也只是一種演算法,用來處理資訊,而當人類創造出比自己還高等的演算法時,人類就功臣身退了。書中也提到很多用數據主義的觀點去解釋歷史,像是共產主義就是集中式資料處理,資本主義就是分散式資料處理。
  可怕的是,我們可能早就不知不覺的信奉數據主義,很願意成為資料流的一部分,像是維基百科,大家放棄自主性共同編輯資料,把自己取得的資訊放到網路上。而最近很紅的sci-hub也是,認為資料應該要開放流通,而不是由少數人把持。或許正在寫部落格的我也是這種概念,認為好的知識應該傳遞出去,不應該只有我知道。
  人文主義興起時,人把神給踢到了一邊,等到數據主義興起時,則會是資料把人給踢到一邊,智人將失去主導性,而是由演算法和資料來掌控世界。這聽起來很難讓人相信,我自己在讀這一章時也是覺得有種被機器羞辱的感覺。但是哈拉瑞之所以要提出來,是要讓我們意識到數據主義的存在,以及希望我們能做出些改變,從這段未來的歷史中解放。
  最後哈拉瑞拋下三個問題給大家思考:「
一、 生物真的只是演算法,而生命也真的真只是資料處理嗎?
二、智能和意思,究竟哪一項更有價值?
三、等到無意識但具備高度智能的演算法比我們更瞭解我們,社會、政治日常生活將會有什麼變化?

——————————————
本書的內容真的是非常多而且很有啟發性,心得打了六篇
心得1~4主要是順著本書的脈絡來寫的
心得5、6則是特別挑出非常有感觸的段落來討論

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *