意見(jiàn)領(lǐng)袖丨Project Syndicate

　　本文作者：布雷特·費(fèi)希曼是維拉諾瓦大學(xué)法律教授。伊凡·塞林格是羅切斯特理工學(xué)院哲學(xué)教授。他們著有《逆向工程破解人性》。

　　幾年前，我（布雷特）的收件箱被Facebook通知擠爆——有很多朋友祝我生日快樂(lè)。我很生氣，登錄將生日改成了仲夏時(shí)節(jié)的某個(gè)隨機(jī)日期。六個(gè)月后，我的收件箱再次擠爆。一開(kāi)始，我不太當(dāng)回事。我的大部分Facebook好友不知道我的真實(shí)生日，只是自動(dòng)響應(yīng)提示而已。但有兩個(gè)郵件來(lái)自知道我真實(shí)生日的關(guān)系密切的親人。他們的反應(yīng)和其他人一樣，這引出了一個(gè)問(wèn)題，即自動(dòng)化偏誤是否干擾了他們的人類(lèi)判斷。這只是個(gè)別的錯(cuò)誤，還是說(shuō)明了更大更危險(xiǎn)的缺陷？

　　考慮另一個(gè)例子。某人遇到某在線(xiàn)用戶(hù)協(xié)議，看到有一個(gè)“我同意”的小按鈕，不假思索就按了下去。這是一種尋常的經(jīng)驗(yàn)。人們不會(huì)去閱讀服務(wù)條款、隱私政策或其他電子格式文本，也很少會(huì)停下來(lái)想一想自己正在與誰(shuí)締結(jié)有法律約束力的在線(xiàn)關(guān)系。但這一點(diǎn)擊確認(rèn)合同界面（以及允許公司使用它的基礎(chǔ)法律規(guī)則）應(yīng)該實(shí)事求是地加以認(rèn)識(shí)：這是一個(gè)促使人做出機(jī)器人行為的系統(tǒng)，大體上脫離了常識(shí)。

　　這兩個(gè)例子都屬于科技-社會(huì)工程例子。隨著這種行為的規(guī)模和范圍通過(guò)公共和私人空間密布的聯(lián)網(wǎng)傳感器（包括我們的設(shè)備、穿著乃至我們自己）變得越來(lái)越廣泛和接近我們，帶來(lái)了緊迫的倫理和政治問(wèn)題。我們的科技是否引導(dǎo)人類(lèi)行為機(jī)器化，從根本上導(dǎo)致非人化？

　　這個(gè)問(wèn)題和科技本身一樣古老。在古希臘，蘇格拉底擔(dān)心寫(xiě)作會(huì)毀掉人類(lèi)記憶，從根本上改變?nèi)祟?lèi)。工業(yè)革命期間，批評(píng)者擔(dān)心流水線(xiàn)工人遭到和機(jī)器部件一樣的對(duì)待。后來(lái)，媒體學(xué)者警告電視將人們變成不會(huì)思考的蔬菜。和十九世紀(jì)的馬克思一樣，二十一世紀(jì)的批評(píng)者擔(dān)心科技非人化，包括亞馬遜的倉(cāng)庫(kù)、優(yōu)步司機(jī)的汽車(chē)，哈佛商學(xué)院的肖珊娜·祖波夫（Shoshana Zuboff）所謂的一切生命的商品化。

　　測(cè)試

　　改變范式的創(chuàng)新引起對(duì)技術(shù)非人化的擔(dān)憂(yōu)，這樣的例子不勝枚舉，但我們并沒(méi)有概念上或?qū)嵶C上可靠的框架在產(chǎn)生這些擔(dān)憂(yōu)的多樣化環(huán)境中檢驗(yàn)這類(lèi)說(shuō)法。要解釋這一重要的知識(shí)缺口，我們需要逆轉(zhuǎn)計(jì)算機(jī)先驅(qū)艾倫·圖靈的經(jīng)典人工智能測(cè)試，以辨別潛在的非人化，實(shí)現(xiàn)倫理評(píng)估。

　　除了評(píng)估對(duì)話(huà)智能，這類(lèi)測(cè)試還要評(píng)估對(duì)人類(lèi)有意義或只有人類(lèi)才行的不同的功能。但要這樣做，我們必須知道是什么造就了人類(lèi)。這是一個(gè)令人難以置信的難題，幾千年來(lái)都沒(méi)有爭(zhēng)論出個(gè)結(jié)果。事實(shí)上，之所以不存在可靠的科學(xué)方法辨別和評(píng)估科技對(duì)于人性的影響，正是因?yàn)槲覀儾恢赖降讘?yīng)該測(cè)量什么，也不知道如何去評(píng)估我們看到的結(jié)果。

　　盡管如此，當(dāng)圖靈發(fā)問(wèn) “機(jī)器能思考嗎？”時(shí)，他面臨一個(gè)類(lèi)似的概念困境。圖靈認(rèn)識(shí)到定義“機(jī)器”和“思考”的內(nèi)在困難，他用一個(gè)實(shí)證測(cè)試來(lái)代替難以回答的原始問(wèn)題。他轉(zhuǎn)向一個(gè)觀察“游戲”，聚焦于人和機(jī)器在具體的功能方面是否不可區(qū)分：用文本信息進(jìn)行的對(duì)話(huà)表現(xiàn)。

　　在最初的圖靈測(cè)試中，觀察者通過(guò)文本信息與一系列被試對(duì)話(huà)，然后根據(jù)對(duì)話(huà)判別每個(gè)被試是人類(lèi)還是機(jī)器。如果觀察者將機(jī)器誤判為人類(lèi)，那么他就識(shí)別出一部卓越的機(jī)器。

　　因此，人類(lèi)為如何評(píng)估機(jī)器提供了一個(gè)基準(zhǔn)。當(dāng)一位觀察者錯(cuò)誤地將某一臺(tái)機(jī)器認(rèn)定為人類(lèi)時(shí)，測(cè)試就產(chǎn)生了需要解讀和評(píng)估的證據(jù)。這并不是一臺(tái)機(jī)器搖身一變成為人類(lèi)的魔法時(shí)刻。機(jī)器仍然是機(jī)器，但測(cè)試產(chǎn)生的證據(jù)可能告訴，也可能沒(méi)有告訴我們某些關(guān)于機(jī)器、觀察者、被問(wèn)及的問(wèn)題以及環(huán)境的東西。

　　常規(guī)上，圖靈測(cè)試的主體是機(jī)器，圖靈觀察可以界定為一組三個(gè)問(wèn)題：我們能設(shè)計(jì)思考的機(jī)器嗎？我們?nèi)绾沃溃看嬖谂c人類(lèi)不可區(qū)分的機(jī)器嗎？對(duì)于我們的目的，我們可以不問(wèn)某項(xiàng)科技正在非人化，轉(zhuǎn)而問(wèn)：我們能設(shè)計(jì)不思考的人類(lèi)嗎？我們?nèi)绾沃溃看嬖谂c機(jī)器不可區(qū)分的人類(lèi)嗎？

　　一臺(tái)簡(jiǎn)單機(jī)器可以作為基準(zhǔn)以評(píng)估作為科技社會(huì)工程對(duì)象的人類(lèi)。基本直覺(jué)是，行為與簡(jiǎn)單機(jī)器相似的人值得注意。和常規(guī)圖靈測(cè)試一樣，以人為焦點(diǎn)的測(cè)試是一種產(chǎn)生證據(jù)的手段。但是，因?yàn)槿诵圆恢褂谖覀兊膶?duì)話(huà)智能，因此我們還要測(cè)試對(duì)人類(lèi)有意義或只有人類(lèi)才行的不同的功能。這一方法為其他人留下了空間，以改近測(cè)試，并開(kāi)發(fā)其他測(cè)試考察他們認(rèn)為作為人類(lèi)或作為有用的機(jī)器必須具備的功能。

　　圖靈問(wèn)“機(jī)器能思考嗎？”我們則問(wèn)“人類(lèi)可以不思考嗎？”我們想要識(shí)別的不是設(shè)計(jì)為智能的機(jī)器，而是設(shè)計(jì)為不智能的人類(lèi)。在這里，智能可以用計(jì)算能力、常識(shí)、理性或簡(jiǎn)單的隨機(jī)數(shù)字生成行為（人類(lèi)在做該測(cè)試時(shí)傾向于遵循可預(yù)測(cè)模式）來(lái)衡量。

　　人類(lèi)還是機(jī)器？

　　設(shè)想我們制定了一個(gè)逆圖靈測(cè)試，觀察者是一臺(tái)機(jī)器，它被設(shè)定向被試提供一系列數(shù)學(xué)計(jì)算問(wèn)題。收到答案幾分鐘后，它會(huì)給出被試是人還是機(jī)器的結(jié)論。問(wèn)題可以從簡(jiǎn)單計(jì)算開(kāi)始，逐漸復(fù)雜化（比如一開(kāi)始是一兩位數(shù)字的加減，然后是乘法，開(kāi)方，等等）。

　　在這個(gè)例子中，分類(lèi)可以輕易與機(jī)器區(qū)分開(kāi)來(lái)。人類(lèi)會(huì)逐漸疲勞，容易出錯(cuò)。取決于測(cè)試的持續(xù)時(shí)間和提問(wèn)的速度，哪怕是簡(jiǎn)單計(jì)算人類(lèi)也會(huì)出錯(cuò)。大部分人通常都通不過(guò)這一測(cè)試。但少數(shù)人可能可以，從而觸發(fā)第二階段：評(píng)估。

　　通過(guò)測(cè)試的人類(lèi)擁有卓越的——甚至可以說(shuō)是非人或超人的——數(shù)學(xué)計(jì)算能力。但是，以這種方式、在這種環(huán)境中像機(jī)器一樣并不影響這個(gè)人在規(guī)范上屬于人類(lèi)的地位。我們獲得了一些反常的證據(jù)，但未必是科技非人化證據(jù)。

　　現(xiàn)在，設(shè)想一個(gè)常規(guī)圖靈測(cè)試，觀察者問(wèn)哲學(xué)家杰拉爾德·埃利昂（Gerald J． Erion）界定的的“需要熟練使用常識(shí)”的問(wèn)題。通過(guò)觀察被試“在各種環(huán)境中相當(dāng)常得一段時(shí)間”的表現(xiàn)，埃利昂認(rèn)為我們可以自信地基于語(yǔ)言能力和常識(shí)表現(xiàn)區(qū)分人類(lèi)和機(jī)器。他的焦點(diǎn)在于機(jī)器，對(duì)機(jī)器來(lái)說(shuō)，通過(guò)常識(shí)測(cè)試門(mén)檻非常高。但要是基于常識(shí)測(cè)試中自身的表現(xiàn)，人類(lèi)無(wú)法與機(jī)器區(qū)分考來(lái)會(huì)怎樣？

　　很難想象人類(lèi)缺少常識(shí)的環(huán)境，常識(shí)是一種適應(yīng)性品質(zhì)，可以在代際和不同的環(huán)境中體現(xiàn)。盡管如此，常識(shí)要依靠共同的知識(shí)基礎(chǔ)、語(yǔ)言和社交互動(dòng)，它們要足以形成共同理解和信念。獲得這些基本輸入量不是給定條件。

　　無(wú)法通過(guò)逆圖靈常識(shí)證明，相關(guān)人類(lèi)和科技社會(huì)環(huán)境存在某些值得關(guān)注的特點(diǎn)。這些人無(wú)法勝任對(duì)大部分人來(lái)說(shuō)稀松平常的常識(shí)任務(wù)，這就值得關(guān)注。但是，這一結(jié)果并不構(gòu)成某個(gè)魔力轉(zhuǎn)變時(shí)刻。這些人仍然是人類(lèi)，但結(jié)果將促使我們對(duì)他們和科技社會(huì)環(huán)境進(jìn)行評(píng)估。

　　我們通過(guò)兩個(gè)推定人無(wú)常識(shí)行動(dòng)的例子開(kāi)始這一討論。我們?cè)谖覀?018年的著作《逆向工程破解人性》（Re-Engineering Humanity）中指出，還有許多例子。因此，評(píng)估今天的科技社會(huì)工程與人的常識(shí)思考能力退化或喪失的因果關(guān)系至關(guān)重要。

　　大部分人會(huì)同意，常識(shí)是一種有意義的人類(lèi)能力，也許對(duì)于人類(lèi)繁榮是必不可少的。如果我們的科技正在侵蝕這種能力，那么我們必須考慮這對(duì)人類(lèi)的未來(lái)意味著什么。

　　(本文作者介紹：報(bào)業(yè)辛迪加（Project Syndicate）被稱(chēng)為“世界上最具智慧的專(zhuān)欄”，作者來(lái)自全球頂級(jí)經(jīng)濟(jì)學(xué)者、諾獎(jiǎng)得主、政界領(lǐng)袖，主題包括全球政治、經(jīng)濟(jì)、科學(xué)與文化塑造者的觀點(diǎn)，為全球讀者提供來(lái)自全球最高端的原創(chuàng)文章、最具深度的評(píng)論，為解讀“變動(dòng)中的世界”提供幫助。)