近年來，以大模型為代表的AI技術(shù)發(fā)展迅猛，掀起一波席卷全球的AI發(fā)展熱潮。關(guān)注AI發(fā)展?fàn)顩r的人不限于AI的研發(fā)者、推廣者和AI發(fā)展的評論者、人文社科研究者，更包括深感生活將被AI深刻影響的普通公眾。AI發(fā)展的問題不再是純粹技術(shù)問題，而是成為某種意義上的公共議題。在最近OpenAI發(fā)布Sora、馬斯克開源Grok等一系列相關(guān)事件中，這一點表現(xiàn)得非常清楚。在各種相關(guān)公共討論中，AI發(fā)展現(xiàn)狀尤其受到關(guān)注，其中的基本問題是：當(dāng)前AI發(fā)展的大方向是否有問題，未來應(yīng)該朝什么方向前進(jìn)。為此，組織計算機、經(jīng)濟學(xué)、馬克思主義理論和哲學(xué)等領(lǐng)域的八位學(xué)者，對AI發(fā)展現(xiàn)狀進(jìn)行跨學(xué)科反思以期拋磚引玉，求教于方家。
本系列文章共8篇，轉(zhuǎn)載自《科學(xué)·經(jīng)濟·社會》2024年第2期，本文《超級智能：進(jìn)路及其應(yīng)對》為第3篇。在文中，楊慶峰和周穎提出通往超級智能存在通用智能、具身智能和交互智能三種可能的路徑，認(rèn)為任何一條路徑都必須消除對齊的誤解，處理好AI對齊以應(yīng)對風(fēng)險。
隨著對ChatGPT、Sora等大模型討論的深入，不同領(lǐng)域的學(xué)者開始關(guān)心人工智能的未來發(fā)展問題。在這個問題上，科學(xué)領(lǐng)域與哲學(xué)領(lǐng)域發(fā)生了奇特的倒置，科學(xué)領(lǐng)域如辛頓、伊利亞等人擔(dān)心超級智能失控并且滅絕人類，科學(xué)表現(xiàn)出了純粹哲學(xué)化的色彩，有著濃厚的人文主義特征：反觀哲學(xué)領(lǐng)域很多學(xué)者表現(xiàn)得出奇的冷靜，運用分析哲學(xué)的方法，青睞于智能概念的澄清，只有少數(shù)哲學(xué)家才表現(xiàn)出對超級智能的擔(dān)憂，如趙汀陽，他認(rèn)為超級智能會為了維護(hù)自身的存在而拋棄人類。從某種意義上來說，分析哲學(xué)已經(jīng)破壞了對人工智能的反思。其結(jié)果是如今這個時代，鮮明的大陸哲學(xué)反思特色已經(jīng)迅速變淡，極具科學(xué)性的分析哲學(xué)努力從事概念澄清工作，卻忽略了根本的問題。在洞察人工智能發(fā)展這一問題上，他們表現(xiàn)出明顯的無力。筆者將超級智能與對齊作為思考的出發(fā)點，試圖超越工具論理解，深化對人工智能未來發(fā)展的討論。
一、通往超級智能的三條進(jìn)路
筆者曾在2023年6月華東師范大學(xué)召開的“元宇宙、人類世與奇點哲學(xué)”研討會上提出AI敘事的三種形式：科學(xué)化、科幻化和詩意化。科學(xué)化即人工智能的討論以科學(xué)為根據(jù)，尤其是神經(jīng)科學(xué)和計算機科學(xué)的研究成果：科幻化即AI討論以科學(xué)幻想為根據(jù)，尤其是科幻電影和小說：詩意化擺脫了科學(xué)成果的束縛，強調(diào)了人類的未來處境，以文學(xué)為根據(jù)'劉永謀教授在本期筆談中提出目前三種“AI宣傳術(shù)”，也提到了小說、動漫、動畫和影像作品中的AI故事，即以人機友好共處、人機終極大戰(zhàn)等情節(jié)講故事，通過這些故事渲染AI覺醒、高效、超能、神秘等鮮明特征并灌輸給社會公眾。劉永謀教授用“宣傳術(shù)”來形容這種敘事，但是這種用法缺乏嚴(yán)謹(jǐn)。筆者并不贊成使用“宣傳術(shù)”來說明這個問題，與之相對，更愿意采用“敘事”的說法以增加AI討論的客觀性。尤其是劉永謀教授認(rèn)為超級智能是一種話術(shù)，人類應(yīng)該阻擊超級智能，他提出，有限AI設(shè)計主張將AI限制在有限的工具層面，而將相關(guān)道德問題全部交給人類處理。在筆者看來，這個想法還是高估人類應(yīng)對超級智能的能力。OpenAI正在使用的利用機器控制機器的做法恰恰說明了這種想法的不足。如今超級智能的問題經(jīng)歷了從科幻化敘事到科學(xué)化敘事的轉(zhuǎn)變。雖然我們無法確定超級智能是否以及在何種程度上成為科學(xué)現(xiàn)實，但這已經(jīng)引起了科學(xué)界、藝術(shù)界及哲學(xué)界的密切關(guān)切。總體看來，科幻領(lǐng)域?qū)@一話題早已探討，然而卻因為其太濃厚的想象色彩，脫離現(xiàn)實而沒有建立起理性討論的話題：在哲學(xué)領(lǐng)域，最早提出超級智能理論的是尼克·鮑斯特羅姆（Nick Bostrom），他認(rèn)為超級智能是遠(yuǎn)超于人類認(rèn)知能力的智能，并基于當(dāng)下科技發(fā)展和研究現(xiàn)狀預(yù)測超級智能是未來趨勢，同時他也指出了其潛在的優(yōu)勢與風(fēng)險。部分學(xué)者以超級智能為前提，預(yù)測其可能帶來的風(fēng)險和危機并積極尋求應(yīng)對方案：在科學(xué)領(lǐng)域，超級智能已經(jīng)開始被視為一種重要的發(fā)展方向和技術(shù)目標(biāo)。例如，OpenAI為了應(yīng)對超級智能可能帶來的失控風(fēng)險，成立了一支名為“超級對齊”（Superaligmnent）的團隊，致力于解決超級智能的對齊問題。超級智能是否是人工智能的發(fā)展歸宿是一個具有爭議的話題。同時，通用人工智能的發(fā)展也符合我國人工智能發(fā)展的戰(zhàn)略目標(biāo)。因此，本文通過對人工智能的科學(xué)研究進(jìn)行考察，從最近的研究成果入手分析超級智能出現(xiàn)的可能性。目前實現(xiàn)超級智能的科學(xué)路徑有三種，分別是通用智能、具身智能和交互智能。
第一種是通用智能路徑，即聚焦通用人工智能（AGI）研究，不同于弱人工智能擅長執(zhí)行特定任務(wù)而不具備決策與行動力，通用人工智能也被稱為強人工智能，具備與人同等或超越人類的能力，能夠理解、學(xué)習(xí)和應(yīng)用知識，處理復(fù)雜的任務(wù)，適應(yīng)新環(huán)境，以及在各種廣泛的任務(wù)中表現(xiàn)出至少與人類相當(dāng)?shù)哪芰ΑpenAI指出，一方面，其公司的核心使命為“邁向通用人工智能，確保其造福人類”，認(rèn)為以ChatGPT為通用人工智能的研究開啟了新的可能性。另一方面，OpenAI也強調(diào)了超級智能對齊的重要性，認(rèn)為通用智能與超級智能具有相似性，且后者比前者具有更高的技術(shù)水平，進(jìn)而描繪了一條從通用人工智能到超級智能的研究路徑。