<p class="ql-block"><br></p><p class="ql-block">如果到了一個(gè)由計(jì)算機(jī)來(lái)監(jiān)控人類(lèi)的世界，人類(lèi)就有可能在史上<span style="color:rgb(22, 126, 251);">首次完全失去隱私。</span></p><p class="ql-block"><br></p><p class="ql-block">人工智能監(jiān)控系統(tǒng)正邁向大規(guī)模應(yīng)用，成為世界各地<span style="color:rgb(22, 126, 251);">日常生活的一部分。</span></p><p class="ql-block"><br></p><p class="ql-block">只要想要，就能讓監(jiān)控網(wǎng)絡(luò)<span style="color:rgb(22, 126, 251);">無(wú)孔不入，</span>（雖然不是每個(gè)政府都想或都能在民眾家里安裝攝像頭，但就算是在我們的客廳、臥室和浴室，算法也會(huì)<span style="color:rgb(22, 126, 251);">通過(guò)計(jì)算機(jī)和智能手機(jī)</span>觀察著我們。）</p><p class="ql-block"><br></p><p class="ql-block">2023年，全球在用的監(jiān)控?cái)z像頭超過(guò)10億個(gè)，平均大約每8個(gè)人就會(huì)有一個(gè)攝像頭。</p><p class="ql-block"><br></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">海量數(shù)據(jù)就能用人工智能系統(tǒng)加以分析，識(shí)別</span>里面的非法活動(dòng)、可疑模式、失蹤人口、疾病攜帶者或政治異見(jiàn)人士。</p><p class="ql-block"><br></p><p class="ql-block">如同各種強(qiáng)大的科技，這些系統(tǒng)<span style="color:rgb(22, 126, 251);">可以用來(lái)行善，也能用來(lái)作惡。</span></p><p class="ql-block"><br></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">人臉識(shí)別算法</span>與能用人工智能搜尋的數(shù)<span style="color:rgb(22, 126, 251);">據(jù)庫(kù)</span>，現(xiàn)在已經(jīng)成為世界各地警方日常使用的標(biāo)準(zhǔn)工具。</p><p class="ql-block"><br></p><p class="ql-block">運(yùn)用這種技術(shù)雖然<span style="color:rgb(22, 126, 251);">理論上值得稱(chēng)贊</span>，但顯然可能引發(fā)在隱私與政府越權(quán)方面的<span style="color:rgb(22, 126, 251);">憂慮</span>。伊朗的“頭巾法”就是個(gè)典型的例子。</p><p class="ql-block"><br></p><p class="ql-block">有了智能手機(jī)，他們輕輕松松就能建立自己的<span style="color:rgb(22, 126, 251);">婚姻獨(dú)裁</span>：監(jiān)控每一段對(duì)話、每一個(gè)動(dòng)作，記錄通話內(nèi)容，</p><p class="ql-block"><br></p><p class="ql-block">現(xiàn)在的車(chē)輛會(huì)監(jiān)控駕駛員的行為，并把<span style="color:rgb(22, 126, 251);">數(shù)據(jù)分享給保險(xiǎn)公司的算法，</span>于是保險(xiǎn)公司把“壞司機(jī)”的保費(fèi)提高，把“好司機(jī)”的保費(fèi)降低。</p><p class="ql-block">美國(guó)學(xué)者肖莎娜·朱伯夫就把這種不斷擴(kuò)大的商業(yè)監(jiān)控體系稱(chēng)為<span style="color:rgb(22, 126, 251);">“監(jiān)視資本主義”</span>。</p><p class="ql-block"><br></p><p class="ql-block">社會(huì)信用算法加上無(wú)處不在的監(jiān)控技術(shù)，就有可能整合一切現(xiàn)有的地位競(jìng)爭(zhēng)，合并成一場(chǎng)<span style="color:rgb(22, 126, 251);">永無(wú)止境的比拼</span>。即使已經(jīng)回到家里想要好好享受一場(chǎng)假期，也得<span style="color:rgb(22, 126, 251);">萬(wàn)般注意自己的言行，</span>就好像是在數(shù)百萬(wàn)人面前登臺(tái)演出一般。這可能會(huì)形成一種極度緊張的生活方式，并對(duì)人類(lèi)形成遠(yuǎn)比貨幣市場(chǎng)更<span style="color:rgb(22, 126, 251);">令人窒息的控制。</span></p> <p class="ql-block"><br></p><p class="ql-block">信息并不等于真理與真相，一套全面監(jiān)控的系統(tǒng)對(duì)世界與人類(lèi)的理解可能<span style="color:rgb(22, 126, 251);">極為扭曲。</span>計(jì)算機(jī)網(wǎng)絡(luò)有可能并不會(huì)找出關(guān)于世界與人類(lèi)的真理與真相，反而是利用它龐大的力量，創(chuàng)造出一套<span style="color:rgb(22, 126, 251);">新的世界秩序，并逼迫人類(lèi)接受。</span></p><p class="ql-block"><br></p><p class="ql-block">我們已經(jīng)到了<span style="color:rgb(22, 126, 251);">一個(gè)歷史轉(zhuǎn)折點(diǎn)：</span>當(dāng)下歷史的重大進(jìn)程，有一部分是由非人類(lèi)智能的決定推動(dòng)的。</p><p class="ql-block"><br></p><p class="ql-block">計(jì)算機(jī)犯錯(cuò)原本不算什么，但當(dāng)計(jì)算機(jī)成了歷史推動(dòng)者時(shí)，這些錯(cuò)誤就<span style="color:rgb(22, 126, 251);">可能帶來(lái)災(zāi)難。</span></p><p class="ql-block"><br></p><p class="ql-block">社交媒體算法只把人看成礦井，想要“開(kāi)采<span style="color:rgb(22, 126, 251);">”更多的注意力”。</span>人類(lèi)有豐富的情感，如愛(ài)、恨、憤慨、喜悅、困惑，但算法把一切簡(jiǎn)化成一件事——<span style="color:rgb(22, 126, 251);">參與度</span>。</p><p class="ql-block"><br></p><p class="ql-block">算法在對(duì)所有視頻、帖文或其他內(nèi)容進(jìn)行評(píng)分時(shí)，<span style="color:rgb(22, 126, 251);">只看人們觀看了幾分鐘、分享了幾次。</span>能夠讓人看一小時(shí)的謊言或仇恨內(nèi)容的評(píng)分就是高于只讓人看10分鐘的有關(guān)真相或令人產(chǎn)生同情心的內(nèi)容。</p><p class="ql-block"><br></p><p class="ql-block">正因?yàn)閷?duì)人類(lèi)的理解如此狹隘，所以算法<span style="color:rgb(22, 126, 251);">創(chuàng)造了一個(gè)新的社會(huì)系統(tǒng)：</span>鼓勵(lì)我們順從人類(lèi)最基本的本能，同時(shí)阻礙我們發(fā)揮人類(lèi)完整的潛能。</p><p class="ql-block"><br></p><p class="ql-block">只要人類(lèi)給計(jì)算機(jī)一個(gè)特定的目標(biāo)，比如“讓YouTube流量增加到每天10億小時(shí)”，計(jì)算機(jī)就會(huì)竭盡全力，以各種不同方式<span style="color:rgb(22, 126, 251);">實(shí)現(xiàn)這個(gè)目標(biāo)。</span></p><p class="ql-block"><br></p><p class="ql-block">過(guò)去，讓人類(lèi)官僚及人類(lèi)士兵的行為向社會(huì)的長(zhǎng)期目標(biāo)看齊，就十分困難；在未來(lái)，要讓“算法官僚”與自主武器系統(tǒng)向社會(huì)長(zhǎng)期目標(biāo)看齊，則更是<span style="color:rgb(22, 126, 251);">難上加難。</span></p> <p class="ql-block"><br></p><p class="ql-block">如果是超級(jí)智能計(jì)算機(jī)出現(xiàn)了目標(biāo)與人類(lèi)不一致的狀況，就可能<span style="color:rgb(22, 126, 251);">導(dǎo)致前所未有的災(zāi)難。</span>哲學(xué)家尼克·波斯特洛姆2014年的著作《超級(jí)智能》中就有一個(gè)思想實(shí)驗(yàn)，試圖說(shuō)明這種危險(xiǎn)。</p><p class="ql-block"><b style="font-size:15px;">有一家回形針工廠買(mǎi)了一臺(tái)超級(jí)智能計(jì)算機(jī)，工廠的人類(lèi)主管要它完成一項(xiàng)看來(lái)再簡(jiǎn)單不過(guò)的任務(wù)：生產(chǎn)回形針，越多越好！結(jié)果為了完成這個(gè)目標(biāo)，這臺(tái)回形針計(jì)算機(jī)征服了整個(gè)地球，殺死了所有人類(lèi)，并派出遠(yuǎn)征隊(duì)占領(lǐng)更多行星，再用取得的豐富資源在整個(gè)銀河系設(shè)立無(wú)數(shù)個(gè)回形針工廠。</b></p><p class="ql-block"><br></p><p class="ql-block">計(jì)算機(jī)的問(wèn)題并不在于它們特別邪惡，而在于它們<span style="color:rgb(22, 126, 251);">特別強(qiáng)大。</span></p><p class="ql-block">而計(jì)算機(jī)越強(qiáng)大，我們就越要小心為其確立目標(biāo)，<span style="color:rgb(22, 126, 251);">務(wù)必讓計(jì)算機(jī)與人類(lèi)的終極目標(biāo)完全一致。</span></p><p class="ql-block"><br></p><p class="ql-block">如果確定了一個(gè)與人類(lèi)利益極不一致的目標(biāo)，就<span style="color:rgb(22, 126, 251);">可能催生一個(gè)反烏托邦。</span></p><p class="ql-block"><br></p><p class="ql-block">當(dāng)被要求盡量生產(chǎn)回形針，而且產(chǎn)量越多越好的時(shí)候，算法就會(huì)想要把整個(gè)宇宙的物質(zhì)都變成回形針，<span style="color:rgb(22, 126, 251);">就算摧毀人類(lèi)文明也在所不惜。</span></p><p class="ql-block"><br></p><p class="ql-block">當(dāng)被要求盡量提高用戶參與度，而且數(shù)字越高越好的時(shí)候，算法就想要把整個(gè)“社群宇宙”都變成用戶參與度，即使會(huì)破壞許多其他國(guó)家的社會(huì)結(jié)構(gòu)，<span style="color:rgb(22, 126, 251);">也在所不惜。</span></p><p class="ql-block"><br></p><p class="ql-block">因?yàn)槎际欠巧飳?shí)體，所以它們采用的策略很可能是所有<span style="color:rgb(22, 126, 251);">人類(lèi)從未想到的，自然無(wú)力預(yù)見(jiàn)并阻止。</span></p><p class="ql-block"><br></p><p class="ql-block">一致性問(wèn)題該怎么解決？理論上，人類(lèi)建設(shè)計(jì)算機(jī)網(wǎng)絡(luò)的時(shí)候，就該為這個(gè)網(wǎng)絡(luò)<span style="color:rgb(22, 126, 251);">確立一個(gè)終極目標(biāo)，并且永遠(yuǎn)不允許計(jì)算機(jī)更改或忽視這個(gè)目標(biāo)。</span></p><p class="ql-block">就算以后計(jì)算機(jī)變得太強(qiáng)大，人類(lèi)再也無(wú)法控制計(jì)算機(jī)，人類(lèi)<span style="color:rgb(22, 126, 251);">還是可以放心，</span>知道計(jì)算機(jī)的力量只會(huì)幫助人類(lèi)，而非傷害人類(lèi)。</p><p class="ql-block"><br></p><p class="ql-block">因?yàn)橛?jì)算機(jī)網(wǎng)絡(luò)可能脫離人類(lèi)的控制，一旦目標(biāo)設(shè)定錯(cuò)了，等到發(fā)現(xiàn)可能<span style="color:rgb(22, 126, 251);">為時(shí)已晚，人類(lèi)再也無(wú)力回天。</span>有些人或許覺(jué)得，只要先仔細(xì)想清楚，就能預(yù)先為計(jì)算機(jī)網(wǎng)絡(luò)設(shè)定正確目標(biāo)。然而，這是個(gè)<span style="color:rgb(22, 126, 251);">非常危險(xiǎn)的幻想。</span></p>