<p class="ql-block">由美國著名文化推動者、出版人及“第三種文化”領(lǐng)軍人約翰·布羅克曼編著，于2017年由浙江人民出版社出版.以下是關(guān)于這本書的詳細介紹：</p><p class="ql-block"> </p><p class="ql-block">內(nèi)容構(gòu)成</p><p class="ql-block"> </p><p class="ql-block">- 編者約翰·布羅克曼召集了約190位世界頂尖的科學(xué)家和思想家，共同探討“如何思考會思考的機器”這一問題，并將他們的答案和論述集結(jié)成書，為讀者呈現(xiàn)了一場跨學(xué)科的思想盛宴.</p><p class="ql-block">- 全書共包含190篇短文，每篇短文都是一位專家從自身專業(yè)角度出發(fā)，對會思考的機器的思考與探討，內(nèi)容涵蓋了計算機科學(xué)、神經(jīng)科學(xué)、心理學(xué)、哲學(xué)、物理學(xué)等多個領(lǐng)域.</p><p class="ql-block"> </p><p class="ql-block">核心觀點</p><p class="ql-block"> </p><p class="ql-block">- 對機器思考能力的探討：書中不同專家對<span style="color:rgb(57, 181, 74);">機器是否能真正像人類一樣思考持有不同觀點</span>。如丹尼爾·丹尼特對奇點理論提出質(zhì)疑，默里·沙納漢則深入探討人類級別人工智能的意識問題.</p><p class="ql-block">- 機器思考對人類社會的影響：專家們普遍認為，機器思考能力的發(fā)展將對人類社會產(chǎn)生深遠影響。如帕梅拉·麥考達克將其視為劃時代的人類事件，而凱文·凱利則把智能機器比作人工外星人，強調(diào)其將給人類帶來巨大挑戰(zhàn).</p><p class="ql-block"> </p><p class="ql-block">《如何思考會思考的機器》中關(guān)于人工智能的發(fā)展趨勢可總結(jié)如下：</p><p class="ql-block">- 從專用到通用：早期人工智能多為專用模型，如今預(yù)訓(xùn)練大模型及智能代理的出現(xiàn)，使人工智能向通用化轉(zhuǎn)變，如GPT-4V等大模型可處理多種自然語言任務(wù)及圖像理解等不同任務(wù).</p><p class="ql-block">- 能力與價值對齊：人工智能將從單純的能力提升，轉(zhuǎn)向注重與人類的價值對齊，以更好地服務(wù)人類社會，避免潛在風(fēng)險.</p><p class="ql-block">- 預(yù)訓(xùn)練與強化學(xué)習(xí)結(jié)合：預(yù)訓(xùn)練使人工智能獲得基礎(chǔ)能力，強化學(xué)習(xí)則用于價值對齊和性能優(yōu)化，二者結(jié)合推動人工智能發(fā)展，使其能夠更好地適應(yīng)復(fù)雜環(huán)境和任務(wù).</p><p class="ql-block">- 多模態(tài)融合：視覺和多模態(tài)預(yù)訓(xùn)練不斷發(fā)展，讓人工智能能夠像人類一樣通過多種感官感知世界，如CLIP打通語言和視覺模態(tài)，LLaVa等模型融合多模態(tài)數(shù)據(jù)，擴展了人工智能的感知和理解范圍.</p><p class="ql-block">- 引發(fā)社會變革：隨著人工智能的發(fā)展，其對人類社會的影響將日益加深，如在醫(yī)療、教育、交通等領(lǐng)域帶來變革，同時也引發(fā)了就業(yè)結(jié)構(gòu)變化、倫理道德等問題，需要人類認真思考和應(yīng)對.</p> <p class="ql-block">約翰·布羅克曼 Edge平臺</p> <p class="ql-block">馬斯克認為 “會思考的機器” 是人工智能發(fā)展到一定階段的產(chǎn)物，它既有著巨大的潛力和機遇，也帶來了嚴重的威脅和挑戰(zhàn)，以下是具體介紹：</p><p class="ql-block">威脅與挑戰(zhàn)</p><p class="ql-block">人類文明面臨風(fēng)險：馬斯克擔心人工智能的快速發(fā)展會使其在智力和進化速度上超過人類，從而可能導(dǎo)致人類文明的終結(jié)。他認為這一信息革命階段，如果不加以控制，會讓人類面臨生存威脅，因為機器可能會脫離人類的控制，自行做出對人類不利的決策1.</p><p class="ql-block">倫理道德困境：當機器具備思考能力后，如何界定它們的權(quán)利和責(zé)任是一個復(fù)雜的倫理問題。例如，當機器做出決策導(dǎo)致傷害時，責(zé)任該如何劃分，以及如何確保機器的行為符合人類的道德和倫理標準，這些都是需要思考和解決的問題。</p><p class="ql-block">機遇與應(yīng)對</p><p class="ql-block">人機融合的未來：馬斯克致力于腦機接口技術(shù)的研究和發(fā)展，希望通過在人類智能和數(shù)字智能之間建立更緊密的共生關(guān)系，實現(xiàn)人機融合 。他認為這不僅可以修復(fù)殘障人士喪失的頭腦功能，還能賦予人類超能力，讓人類能夠更好地應(yīng)對未來的挑戰(zhàn)1.</p><p class="ql-block">降低 AI 風(fēng)險：腦機接口技術(shù)的發(fā)展或許是降低 AI 對人類文明威脅的一種方式。通過腦機接口，人類可以與機器更加緊密地結(jié)合，從而更好地理解和控制機器的思考過程，引導(dǎo)人工智能的發(fā)展方向，使其與人類的價值觀和利益相契合，減少潛在的風(fēng)險1.</p><p class="ql-block">推動科技進步：會思考的機器無疑將推動科技的飛速發(fā)展，幫助人類解決許多復(fù)雜的問題，如氣候變化、疾病治療等。馬斯克也認識到了人工智能在解決這些全球性挑戰(zhàn)中的巨大潛力，因此他強調(diào)要在確保安全的前提下，充分發(fā)揮人工智能的優(yōu)勢，推動人類社會的進步.</p> <p class="ql-block">那些激發(fā)人們?nèi)ニ伎家庀氩坏街碌膯栴}。</p><p class="ql-block">俱樂部座右銘的靈感就源于拜爾斯，他曾經(jīng)說過：“要抵達世界知識的邊界，就要尋找最復(fù)雜、最聰明的頭腦，把他們關(guān)在同一個房間里，讓他們互相討論各自不解的問題?！?lt;/p><p class="ql-block"><br></p><p class="ql-block">新技術(shù)就等于新觀念?，F(xiàn)實俱樂部。</p><p class="ql-block">我在1991年發(fā)表的《第三種文化的興起》（The Emerging Third Culture）一文和1995年出版的《第三種文化：洞察世界的新途徑》（The Third Culture：Beyond the Scientifc Revolution）一書中，都寫到了“第三種文化”，而上述那些人，他們正是第三種文化的代表。</p><p class="ql-block">這些擁有新觀念的知識分子、科學(xué)家，還有那些著書立說的人，正是他們推動了我們的時代。</p><p class="ql-block">Edge已經(jīng)形成了一個選擇合作者的簡單標準。我們尋找的是這樣一些人：他們能用自己的創(chuàng)造性工作，來擴展關(guān)于“我們是誰、我們是什么”的看法。其中，一些人是暢銷書作家，或在大眾文化方面名滿天下，而大多數(shù)人不是。我們鼓勵探索文化前沿，鼓勵研究那些還沒有被普遍揭示的真理。我們對“聰明地思考”頗有興趣，但對“標準化智慧”意興闌珊。在傳播理論中，信息并非被定義為“數(shù)據(jù)”或“輸入”，而是“<span style="color:rgb(57, 181, 74);">產(chǎn)生差異的差異”（a difference that makes a difference）</span>。這才是我們期望中合作者要達到的水平。</p><p class="ql-block"><br></p> <p class="ql-block">年度問題：</p><p class="ql-block">- 2015年：你怎樣看待會思考的機器？</p><p class="ql-block">- 2016年：你認為最近最有趣的科學(xué)新聞是什么？它為何重要？</p><p class="ql-block">- 2017年：哪個科學(xué)術(shù)語或概念應(yīng)該更廣為人知？</p><p class="ql-block">- 2018年：最后的問題是什么 ？</p> <p class="ql-block">阿萊克斯·彭特蘭 Alex Pentland</p><p class="ql-block">MIT人類動力學(xué)實驗室主任；全球大數(shù)據(jù)權(quán)威；</p><p class="ql-block">可穿戴設(shè)備之父；著有《智慧社會》</p> <p class="ql-block">如果無法打敗它們，就同它們聯(lián)手</p><p class="ql-block">弗蘭克·蒂普勒（Frank Tipler）</p><p class="ql-block">杜蘭大學(xué)數(shù)學(xué)物理學(xué)教授；合著有《人擇宇宙學(xué)原理》（The Anthropic Cosmological Principle），</p><p class="ql-block">著有《永恒物理學(xué)》（The Physics of Immortality）</p><p class="ql-block"><br></p><p class="ql-block">人工智能擁有的將是整個宇宙，它們會離開地球這個小村莊進行遠征，并且不會再回來——正如人類雖起源于東非大裂谷，而如今那里已經(jīng)是一片沙漠，幾乎所有人都已經(jīng)離開了那里。誰還會回去呢？</p><p class="ql-block">任何想要加入人工智能遠征軍的人類，都可以通過人類智能載體來實現(xiàn)。這是一項隨著人工智能一起發(fā)展的技術(shù)。這些人類智能載體能夠像人工智能一樣快速思考，甚至能與它們競爭。如果你無法打敗它們，那就加入它們。</p><p class="ql-block">最終，所有人都會加入它們，所有仍然存活的人類，只要不想死亡，都會別無選擇地加入它們，成為人類智能載體。而在整個生物圈中，所有我們希望保留下來的生命，也都將加入其中。</p><p class="ql-block">最終，人工智能將拯救我們。</p> <p class="ql-block">WELCOME TO YOUR TRANSHUMAN SELF</p><p class="ql-block"> 歡迎超人一般的自己</p><p class="ql-block">馬塞洛·格萊澤（Marcelo Gleiser）</p><p class="ql-block">達特茅斯學(xué)院物理學(xué)、天文學(xué)教授；著有《知識之島》（The Island of Knowledge）</p><p class="ql-block">想象這樣的場景：你上班就要遲到了，于是倉促走出家門。在半路堵車或在坐地鐵時你才意識到，自己忘了帶手機，但回去取的話肯定會遲到。這時你環(huán)顧四周，發(fā)現(xiàn)每個人都在用手機聊天、上網(wǎng)，你感受到了一種從未有過的失落感，一種與外界失聯(lián)的感覺。沒了手機，你甚至不再是自己了。</p><p class="ql-block"><br></p><p class="ql-block">我們可以通過數(shù)字技術(shù)來增強我們的腦力達到超級智能，并通過增強人類智能來拓展人類存在的意義。我們?nèi)匀粨碛刑鴦拥男呐K，我們的血液依然沿著血管流動，與此同時，電子沿著體內(nèi)的數(shù)字電路穿梭。人工智能的未來是將我們的能力延伸到新的領(lǐng)域，即用科學(xué)技術(shù)將人類發(fā)展成為更聰明，最好是更賢明的物種。</p> <p class="ql-block">發(fā)現(xiàn)他們的真正需求是什么？</p><p class="ql-block"><br></p><p class="ql-block">后來我發(fā)現(xiàn)還可以再進一步，其實他們也不知道自己喜歡什么！需要什么！</p><p class="ql-block">誰知道？</p><p class="ql-block">機器！</p><p class="ql-block"><br></p><p class="ql-block">從眾，流行什么？</p><p class="ql-block">很多人認可的就是好東西。很多人關(guān)注的就是熱點。王一博就是流量明星，大v做什么都能賺到錢。</p><p class="ql-block">地鐵就有很多人，我們要做的就是參與機器的數(shù)據(jù)統(tǒng)計，用數(shù)據(jù)得知人的代替，機器的想法。然后去服務(wù)。</p> <p class="ql-block">每一步都讓我們先感受到明顯的好處，以至于我們無法拒絕。</p><p class="ql-block">◎現(xiàn)在的計算機已經(jīng)非常強大可靠了，今天你如果還用筆和紙去做大量的算術(shù)計算的話，那就顯得太愚蠢了，因為用計算器要快得多，而且?guī)缀跏峭耆_的（不要忘了舍入誤差）。</p><p class="ql-block">◎既然列車時刻表已經(jīng)可以立即出現(xiàn)在智能手機上，我們又何必再去記它們呢？◎不要再看地圖了，導(dǎo)航到你的全球定位系統(tǒng)（GPS）吧，它雖然沒有意識，也不能進行有意義的思考，它卻能比你更好地跟蹤你的位置或引導(dǎo)你到想去的地方。</p><p class="ql-block">更進一步看，現(xiàn)在的醫(yī)生也在逐步依賴比人類診斷更加可靠的診斷系統(tǒng)。當遇到生死攸關(guān)的治療時，你希望醫(yī)生否決掉機器的診斷結(jié)果嗎？IBM的超級計算機沃森是這方面應(yīng)用最具說服力的例子，至于沃森是不是一個合格的思考者，那是另外一個問題。如果沃森能夠利用已有數(shù)據(jù)，作出比人類專家更精確的診斷，那么我們就會更信任、依賴它的結(jié)果，而那些藐視它的醫(yī)生則有可能惹上醫(yī)療官司。對于這種增強版的智能假體而言，沒有哪個人類領(lǐng)域是它們所不能涉足的。而無論在哪個領(lǐng)域，一旦它證明了自己，人類就會一如既往地接受它、相信它。手工制作也可以逐漸占據(jù)手工陶器和手工針織毛衣等利基市場[插圖]。</p> <p class="ql-block">THE NEXT PHASE OF HUMAN EVOLUTION</p><p class="ql-block"> 人類進化的新階段</p><p class="ql-block">尼娜·雅布隆斯基（Nina Jablonski）</p><p class="ql-block">生物人類學(xué)家，古生物學(xué)家；著有《生命的色彩》（Living Color）</p><p class="ql-block"><br></p><p class="ql-block">人類意識中的哪些屬性有可能出現(xiàn)在人工智能身上？當然，每一個列舉出來的以及其他未提及的屬性都值得認真對待。我只挑出其中的兩種：對世界的感知力以及感受痛苦的能力。我認為，對世界的感知力是人類級別的智能所必備的屬性。</p><p class="ql-block">顯然，如果不具備語言能力，就稱不上是人類水平的智能。而人類語言的主要功能就是描述周圍的世界。從這個角度看，智能必然具備哲學(xué)家所說的意向性。更進一步看，語言是一種社會現(xiàn)象，在人群中，語言的主要功能就是描述他們在過去、現(xiàn)在、未來已經(jīng)感知到的，以及可能感知到的事物，比如一件工具或一塊木頭等。簡單地說，語言產(chǎn)生的前提是對世界的感知。而對于具有實體的動物和機器人而言，這種感知力可以從它們與周圍環(huán)境的互動中表現(xiàn)出來，比如避開障礙物、撿起物品等。我們也可以把范圍擴大到那些分散的、通過特定的傳感器連接起來的非實體的人工智能。</p><p class="ql-block">如果想令人信服地將感知力作為意識的某一屬性，還得結(jié)合其他屬性，比如意向性和一定程度的認知整合能力。因此，即便是人工智能，這類三合一的屬性也是相互交織的。但暫且把這個問題放一邊，重新來看感受痛苦和歡愉的能力。與感知力不同，人工智能的意識中需要具備這類屬性的原因不太明顯，雖然對人類來講，這種屬性是和意識緊密相連的。我們可以想象這樣一部機器，它可以完成一系列需要人類智力才能完成的任務(wù)，整個過程不帶一絲一毫的情感。在這種情況下，這類機器就很難稱得上具有意識。正如英國哲學(xué)家杰里米·邊沁（Jeremy Bentham）所言：當我們考慮如何看待其他動物的時候，不是看它能否推理或者說話，而是看它們能否受苦。</p><p class="ql-block">我并非要強調(diào)，純粹的機器就一定不具備感受痛苦和歡愉的能力，也不是說生物體在這方面有什么特殊之處。相反，我想指出的是：這種感受痛苦和歡愉的能力，是可以從人類意識的諸多精神屬性中分離出來的。讓我們進一步來驗證這種分離的合理性。我前面提出，對世界的感知力總是和意向性結(jié)合在一起，動物對世界的感知力——趨利避害的能力，基于它自身的需求。當它看到危險的捕食者時，就會避開；當它看到自己的獵物時，就會靠近。在這一系列目標和需求的背景下，動物的行為都是有意義的，而當它們的目標沒有實現(xiàn)、需求未被滿足時，它們會有挫敗感。這就是遭受痛苦的原理依據(jù)。</p><p class="ql-block">人類級別的人工智能又會如何？難道它們就不具備一套復(fù)雜的目標嗎？它們實現(xiàn)目標的努力就不會受挫嗎？雖然人工智能的構(gòu)造可以讓它免受人類生理上的痛苦，但是當它處于惡劣條件下時，我們能否說人工智能也在受苦呢？</p><p class="ql-block">此時，想象力和直覺力已經(jīng)碰到了天花板。我認為，在這種東西真正出現(xiàn)以前，我們無法找到答案。只有當更成熟的人工智能成為我們生活的一部分時，我們的語言游戲才能適用于描述這些“外星人”。當然，那個時候再來考慮它們是否應(yīng)該出現(xiàn)在這個世界上，就為時已晚了。無論好壞，它們都已經(jīng)出現(xiàn)了。</p> <p class="ql-block">凱文凱利</p><p class="ql-block">人工外星人的出現(xiàn)將迫使人類重新評估自己的職責(zé)、信仰、目標，以及人類自己的身份。人類存在的意義是什么？我相信我們首先應(yīng)該給出這樣的回答：人類存在的意義就是創(chuàng)造出生物進化無法創(chuàng)造出的智能。我們的任務(wù)是制造出<span style="color:rgb(237, 35, 8);">以不同方式思考的機器</span>，即創(chuàng)造外星智能。請叫他們“人工外星人?！?lt;/p> <p class="ql-block">凱文·凱利：科技是如何演化的？ | 《如何思考會思考的機器 》2005</p><p class="ql-block"><br></p><p class="ql-block"> 什么是科技真正的意義？我們真的認識科技嗎？科技到底想要什么？</p><p class="ql-block"> 世界知名未來學(xué)家凱文凱利探究了“科技到底想要什么”，并深刻地指出，科技與生命進化一樣，經(jīng)歷了從簡單到復(fù)雜并隨處可見的史詩般的歷程。事實上，科技從未消逝，科技不死！</p><p class="ql-block"><br></p><p class="ql-block">我怕科技主宰和控制我。我騎車上班。但我們需要思考科技意味著什么</p><p class="ql-block"><br></p> <p class="ql-block">按照人們事先給定的算法，機器能符合邏輯地一步步執(zhí)行一系列操作。在這類事務(wù)上，機器比任何人都做得更快也更精準。</p> <p class="ql-block">72 快，準，傻</p><p class="ql-block">海倫·費雪（Helen Fisher）</p><p class="ql-block">羅格斯大學(xué)人類學(xué)家；著有《誰會愛上你，你會愛上誰》（Why Him?Why Her?How to Find and Keep Lasting Love ）</p><p class="ql-block">通 常來說，了解事物的第一步是為它命名。那么，何謂“思考”？在我看來，思考有許多基本的要素。首先，我將跟隨神經(jīng)科學(xué)家安東尼奧·達馬西奧（Antonio Damasio）的邏輯。在他看來，意識存在著兩種廣泛而又基本的形態(tài)：核心意識（core consciousness）和擴展意識（extended consciousness）。許多動物都擁有核心意識，它們不僅有感覺，還能意識到自己的感覺。它們知道自己感覺到了寒冷、饑餓或是悲傷，但它們都只能活在此時此地。擴展意識則是一種能夠?qū)^去和未來進行感知的意識。人類對個體差異有著清楚的認知，也能區(qū)分昨天和明天，還能清楚地知道自我成長的各個階段。</p><p class="ql-block">高等哺乳動物會有一些基于擴展意識的行為表現(xiàn)。例如，人類的近親大猩猩有著清楚的自我意識，一只名叫可可（Koko）的大猩猩能用一種美國版本的手語稱自己為“Koko”。此外，大多數(shù)黑猩猩對于不久的未來都有清晰的感覺。例如，當一群黑猩猩剛被帶到位于荷蘭阿納姆動物園（Arnhem Zoo）的戶外圍場時，它們就迅速地對新環(huán)境進行了地毯式的檢查——一寸不漏，然后一直等到管理員離開后，它們就靠墻搭起一根長桿子，沿著桿子爬出去，獲得了自由；其間，甚至有黑猩猩還幫助了其他不善于爬桿的同伴爬出了高墻。盡管如此，顯而易見的似乎是，正如達馬西奧在他的著作《感受發(fā)生的一切》（The Feeling ofWhat Happens ）中指出的那樣，類似于這樣的擴展意識在人類那里才達到了極致。那么，機器是否也能根據(jù)回憶自己的經(jīng)歷，運用經(jīng)驗來認識并指導(dǎo)自身走向未來？答案也許是肯定的。</p><p class="ql-block">然而，擴展意識還不是人類意識的全部，人類學(xué)家使用術(shù)語“象征性思維”（symbolic thinking）來描述人類能夠任意使用抽象概念來表示現(xiàn)實世界的能力。一個經(jīng)典的例子是水和“圣水”的區(qū)別：對于黑猩猩來說，教堂里盛在大理石盆中的水只是水而已；而對于一位天主教徒來說，這水可不是一般的水，而是“圣水”。類似地，黑色對于所有的大猩猩來說只是黑色，然而對于一個人來說，黑色也許意味著死亡或是一種時尚的流行色。機器有可能理解十字架、民主的意義嗎？我對此表示懷疑。但是，如果機器能理解此類事物，它們有能力對之進行討論嗎？</p><p class="ql-block">象征性思維最好的例子，莫過于我們用尖叫聲和嘶嘶聲、號叫聲和哀鳴聲創(chuàng)造了人類語言。就拿詞語dog來說，說英語的人用它來指代那些散發(fā)著特殊氣味、長著皮毛、搖著尾巴的動物——狗。更為神奇的是，人類把dog一詞分成三個無意義的音素d、o、g，然后重新組合三者的書寫順序，再賦予適當?shù)陌l(fā)音后，就創(chuàng)造出了意義完全不同的新詞語，例如g-o-d（神）。那么，機器能否將它們的咔嗒聲和嘶嘶聲分解成原始的聲音或因素，然后將這些聲音進行不同的排列組合來創(chuàng)造新的詞語，再為這些詞語賦予任意的意義，最后用這些詞語來描述新的抽象現(xiàn)象？我對此表示懷疑。</p><p class="ql-block">那么，關(guān)于情緒的問題呢？我們的情緒，會影響我們的思考。舉例來說，機器人或許能夠辨識并判斷公平性問題，但它們能感受到不公嗎？對此，我依舊表示懷疑。</p><p class="ql-block">我要歌頌人類的大腦。它有超過1 000億個神經(jīng)細胞，每個神經(jīng)細胞又與它周圍近萬個神經(jīng)細胞相連接。這個只有約1.4千克重的塊狀物是地球生命最了不起的成就。大多數(shù)人類學(xué)家都默認現(xiàn)代人的大腦早在20萬年前就出現(xiàn)了，而對于我們的祖先，最早是在4萬年前就開始有藝術(shù)創(chuàng)作和埋葬死者的習(xí)俗，因此創(chuàng)造出了來世的概念。如今，社會上正常的成年人都可以輕易將詞語分解，用無數(shù)種排列組合方法創(chuàng)造出新的詞匯，并迅速地接受這些詞語的意義，然后理解詞語抽象的概念，例如friendship（友誼）、sin（罪惡）、purity（純潔）和wisdom（智慧）等。</p><p class="ql-block">在一次晚餐上，一個機器人花了5個小時才疊好一塊毛巾。機器人制造領(lǐng)域的著名科學(xué)家威廉·凱利（William M.Kelly）就此發(fā)表了評論：“人類遲緩、懶散，卻又是偉大的思想家；機器快速、精準，卻十分愚蠢。”我對此深表贊同。</p><p class="ql-block"><br></p>