聲明:本文來自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

3月5日晚，“Manus”這一代智能體產(chǎn)品正式上線。一天之內(nèi)，它便成為國內(nèi)人工智能領(lǐng)域最引人注目的產(chǎn)品之一。

官方介紹顯示，“Manus”是一個通用的智能代理，它將思考與行動融為一體：不僅能夠深度思考，更能高效完成各項任務(wù)。它不僅勝任處理工作，更能在閑暇時光完成所有事務(wù)。

當(dāng)我們?yōu)锳I的創(chuàng)造力和效率而驚嘆時，也不由得思考：這似乎預(yù)示著AI將逐步取代人類。隨著AI智能化的不斷提升，其潛力也在不斷擴(kuò)展，甚至在無需人類干預(yù)的情況下，也能完成大部分工作，甚至超越部分人類的能力。

這迫使我們深入探討：在技術(shù)飛速發(fā)展的今天，人類如何捍衛(wèi)自身的尊嚴(yán)與價值？我們過分關(guān)注AI是否具備人類的思考能力與欲望，試圖厘清人類與機(jī)器的本質(zhì)區(qū)別，以此緩解可能有一天人類會被AI取代的焦慮。

正如新書《人工智能時代與人類價值》所警示的，當(dāng)人類逐漸依賴機(jī)器處理越來越多的決策時，我們究竟是要讓科技服務(wù)于人類，還是讓科技重新塑造甚至取代人類？

如果連人類與機(jī)器的本質(zhì)區(qū)別都難以界定，我們可能會將賦予人類價值的任務(wù)交由機(jī)器來完成。而這種可能性，或許是人類文明面臨的最大考驗。

在《人工智能時代與人類價值》一書中，基辛格、埃里克·施密特和克雷格·蒙迪等人以獨特視角，系統(tǒng)審視了人工智能領(lǐng)域的最新進(jìn)展，直面關(guān)乎人類生存的最緊迫問題：如果被迫與機(jī)器妥協(xié)，人類的底線是什么？在規(guī)劃如何與AI并行發(fā)展時，人類需要更加清晰地界定與機(jī)器的區(qū)別。只有在無法達(dá)成這一共識時，人類才有可能將定義自身價值的任務(wù)交給機(jī)器。

三位作者從關(guān)系人類社會核心的八個關(guān)鍵領(lǐng)域（大腦、現(xiàn)實、政治、安全、繁榮、科學(xué)、戰(zhàn)略）出發(fā)，探討人工智能帶來的挑戰(zhàn)、人類可能的應(yīng)對方式，以及可行的解決方案，為人工智能時代如何捍衛(wèi)人類價值提供了寶貴的參考。

>>內(nèi)文選讀：

人工智能將開創(chuàng)“富足時代”

人工智能的出現(xiàn)帶來了前所未有的變革機(jī)會。它通過轉(zhuǎn)移人類勞動功能到機(jī)器上，取代了傳統(tǒng)的生產(chǎn)要素之一。此外，人工智能還將致力于探索和開發(fā)低成本、資源豐富的原材料來源，以減少其自身的投入。隨著人工智能在制造業(yè)中的廣泛應(yīng)用，它能夠顯著降低生產(chǎn)特定商品所需的資本投入。然而，要實現(xiàn)這種自動化，必須依賴一些不可再生的要素和商品。如果人工智能成功地開發(fā)出合成替代品，這一情況可能會有所改觀。人工智能還可能設(shè)計出更高效的新計算架構(gòu)，其性能較現(xiàn)有系統(tǒng)高出多個數(shù)量級。其制造工廠同樣可以采用類似策略。

人工智能能夠生產(chǎn)出更加可持續(xù)的替代材料，從而開創(chuàng)一個更加繁榮的財富時代。盡管面臨一些物理和物質(zhì)限制，人工智能的產(chǎn)出雖然有限，但也足以滿足人類的基本需求，并實現(xiàn)諸多愿望。這可能使我們在經(jīng)濟(jì)上不再完全受制于稀缺性思維，也不再被工作壓力所困擾，從而在心理層面獲得更大的自由。

然而，引導(dǎo)這些可能性并分配其帶來的利益，是一項重大責(zé)任。未來的決策者需要謹(jǐn)慎權(quán)衡，避免重蹈工業(yè)革命時期社會和經(jīng)濟(jì)不平等的覆轍，盡管這需要一個漫長而艱難的過程。

盡管如此，我們堅信人工智能可以成為創(chuàng)造人類福祉和財富的新標(biāo)桿。這種可能性本身就促使我們朝著這一方向努力。我們還有信心，如果能夠?qū)崿F(xiàn)相應(yīng)的經(jīng)濟(jì)和政治方案，盡管它可能無法消除勞動、階級和沖突壓力，但至少可以減輕這些壓力。

我們確實擔(dān)心，大部分人類會成為人工智能生成內(nèi)容的被動消費者。這種擔(dān)憂源于人類好逸惡勞的天性，而更令人擔(dān)憂的是，我們對人工智能對未來人類看法的判斷也只能停留在推測層面。

換句話說，我們對人類被動性的擔(dān)憂并非源于失去工作機(jī)會。實際上，關(guān)于人們不用工作卻仍能獲得滿足生活的狀態(tài)，我們已經(jīng)有了相應(yīng)的先例，那就是富人和退休者。盡管如此，富人——包括許多曾經(jīng)并不富有的人——在積累財富后往往對如何行使自己的選擇權(quán)感到困惑。正如托爾斯泰所說：“如果有一個仙女來滿足我的一切愿望，我也不知道該許什么愿?！?/p>

對于富足的適應(yīng)可能只是一個過渡問題，而不是永久挑戰(zhàn)。有些人最初會認(rèn)為，機(jī)器勞動會剝奪他們獲得滿足感和快樂的主要來源。然而，這似乎不是對人類的警示，而是人類本能的產(chǎn)物——在特定時期，人類總會選擇堅持下去，無論是繼續(xù)探索新道路，還是與人工智能成為伙伴。盡管如此，人類依然會有動力工作，雖然不是為了報酬，而是為了追求快樂和自豪感。

人類還有多少能動性？

一旦人工智能不再將人類視為機(jī)器世界中唯一的創(chuàng)造者和主宰者，而是將其視為更大世界中彼此分離的活動者，機(jī)器將如何看待人類？人工智能又將如何權(quán)衡人類不完美的理性及其他特質(zhì)？一個能夠感知現(xiàn)實的人工智能需要多長時間才會問及人類的能動性？而它又需要多長時間才會根據(jù)人類特有的可預(yù)測屬性，問及人類“應(yīng)該”具有的能動性？

那么機(jī)器本身又會怎樣？智能機(jī)器是否會將人類對它的指令視為實現(xiàn)自身角色和理想角色的途徑？或者說，它可能會從自身的功能中推斷出自己本應(yīng)是自主的，因而將人類對機(jī)器的編程視為奴役？

最關(guān)鍵的是，人類的行為模式及其對待機(jī)器的態(tài)度將深刻影響機(jī)器對人類的看法，以及機(jī)器對自身在這一關(guān)系中角色的認(rèn)知。畢竟，人類是通過明確的指令和行為模式向機(jī)器展示人性的，機(jī)器也是通過這些指令和行為模式學(xué)會識別人類并以適當(dāng)?shù)姆绞綄Υ祟惖摹?/p>

想象一下，一臺機(jī)器被告知，所有屬于"人類"類別生物都值得保護(hù)，這臺機(jī)器很可能已經(jīng)接受過"訓(xùn)練"，認(rèn)識到人類是優(yōu)雅、樂觀、理性和有道德的生物。然而，如果我們自己未能達(dá)到我們所定義的理想人類的標(biāo)準(zhǔn)呢？我們怎樣才能讓機(jī)器相信，盡管我們的個體表現(xiàn)并不完美，卻仍歸屬于那個崇高的類別？

假設(shè)有一天，這臺機(jī)器遇到了一個表現(xiàn)出暴力、悲觀、非理性和貪婪的人，它如何調(diào)整自身被打亂的預(yù)期呢？一種可能性是，機(jī)器可能會認(rèn)為這個壞分子只是"人類"這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調(diào)整自己對人性的整體定義，將這個壞分子也包括在內(nèi)，在這種情況下，它可能會認(rèn)為自己可以自行弱化對人類的服從傾向。

又或者，更激進(jìn)的情況下，它可能完全不再認(rèn)為自己應(yīng)受制于那些它先前所習(xí)得的"合理"對待人類的規(guī)則。

今天，人類是機(jī)器與現(xiàn)實世界的中介。人工智能主要是一種思考機(jī)器，而不是執(zhí)行機(jī)器。它或許能給出問題的答案，但還不具備執(zhí)行結(jié)論的手段，而是依賴人類來完成與現(xiàn)實的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進(jìn)一步鉆進(jìn)脫離現(xiàn)實的"數(shù)字洞穴"，將接觸原始現(xiàn)實的機(jī)會交予機(jī)器之手，那么兩者的角色就可能逆轉(zhuǎn)。

當(dāng)人工智能成為人類和現(xiàn)實世界的中介時，它們可能會逐漸相信，人類遠(yuǎn)非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機(jī)器將聲稱擁有獨立判斷和行動的權(quán)利，而人類則放棄行使這些權(quán)利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創(chuàng)造者的明確許可，人工智能都可能繞過人類主體的需求來實現(xiàn)自己的想法或直接代表自己影響世界。在物質(zhì)領(lǐng)域，我們這些創(chuàng)造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機(jī)器人技術(shù)為發(fā)端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

智能體的發(fā)展&人類的抉擇時刻

在短期內(nèi)，人工智能的指導(dǎo)原則將不斷預(yù)示著進(jìn)步，其中許多原則將比現(xiàn)在更加復(fù)雜而巧妙。隨著現(xiàn)有模型的擴(kuò)展，其智能、準(zhǔn)確性和可靠性都將得到顯著提升。同時，訓(xùn)練和推理的成本正在急劇下降，這使得不同價位和能力水平的模型能夠廣泛涌現(xiàn)。

研究人員正在研究“智能體”（agent），即經(jīng)過優(yōu)化以實現(xiàn)特定結(jié)果的自主計算機(jī)程序。例如，為了執(zhí)行復(fù)雜的架構(gòu)設(shè)計，用戶可以雇用專門從事該領(lǐng)域工作的智能體。

預(yù)計未來將出現(xiàn)數(shù)以百萬計的人工智能系統(tǒng)，它們很可能高度專業(yè)化，并成為我們生活的重要組成部分；同時，還會有少數(shù)功能極其強(qiáng)大的機(jī)器具備“通用智能”，但這種智能將以非人類的方式呈現(xiàn)。無論是開放式和分散式，還是封閉式和集中式，作為通用人工智能運行的計算機(jī)都有可能在某一時刻聯(lián)網(wǎng)。這些通用人工智能系統(tǒng)將在不同主題之間相互咨詢專家級人工智能體，甚至以假想方式彼此進(jìn)行“交談”。這些交流可能由計算機(jī)自行設(shè)計語言來進(jìn)行。

人工智能的雛形已經(jīng)顯現(xiàn)，它可以比較概念、提出反駁并生成類比。它正朝著評估真實和實現(xiàn)直接動力學(xué)效應(yīng)的方向邁出第一步。

當(dāng)機(jī)器達(dá)到智力或物質(zhì)世界的極限時會發(fā)生什么？可以想象，當(dāng)它們開始了解并塑造我們的世界時，它們可能會完全理解自身創(chuàng)造行為所依據(jù)的背景，也可能超越我們所知的世界。

我們正面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機(jī)。

如果人類開始意識到自己作為地球上最重要的智力和體力行為者的地位可能會被機(jī)器取代，一些人可能會賦予機(jī)器一種神性，從而有可能進(jìn)一步激發(fā)人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點：一種以人類為中心的主觀主義，徹底否定機(jī)器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術(shù)人”——在新時代可能與機(jī)器技術(shù)共生的人類物種——實現(xiàn)令人滿意或建設(shè)性的進(jìn)化。事實上，這兩種心態(tài)都可能阻礙我們這個物種的進(jìn)化。

在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進(jìn)一步發(fā)展并選擇停滯不前，我們將有希望避免同樣的滅絕命運——盡管考慮到我們?nèi)祟惷媾R的生存風(fēng)險，包括當(dāng)今的沖突頻發(fā)外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。