通用人工智能(AGI)作為人工智能領(lǐng)域的終極目標(biāo)，吸引著學(xué)界和業(yè)界同行者不懈探索，并不斷取得新突破。

　　人類對(duì)AGI的想象從未如此具體，但人工智能領(lǐng)域的前路仍然充滿未知。

　　關(guān)于未來3至5年，對(duì)于人工智能發(fā)展趨勢(shì)的框架性思考，可以簡(jiǎn)單地總結(jié)為為“三化”。

　　第一是智能技術(shù)體系化。人工智能是一個(gè)非常典型的先發(fā)展應(yīng)用，后補(bǔ)充理論的一個(gè)學(xué)科，發(fā)展到現(xiàn)在這個(gè)階段，需要更體系化地去追究智能的本質(zhì)，更好地去完善這個(gè)體系。

　　第二是智能形態(tài)多元化。人工智能一定要產(chǎn)生不同的形態(tài)，和實(shí)體經(jīng)濟(jì)、社會(huì)發(fā)展、人民生活緊密結(jié)合，隨著人工智能技術(shù)的迭代，它一定會(huì)出現(xiàn)智能形態(tài)多元化。形態(tài)多元化的核心原因，一個(gè)是場(chǎng)景豐富度的要求，另一個(gè)是因?yàn)榧夹g(shù)不完備，人工智能未來四五年中還會(huì)處于一個(gè)技術(shù)待完備的過程，這時(shí)候就需要妥協(xié)，在應(yīng)用中考慮新的形態(tài)。

　　第三是智能能力高階化。行業(yè)往前發(fā)展的核心動(dòng)力是智能能力必須不斷進(jìn)行高階化演進(jìn)。今天的人工智能已經(jīng)讓大家驚嘆，但這僅僅是開始。高階化離不開技術(shù)體系化，離不開要素的突破，離不開對(duì)形態(tài)的理解。否則，基于中階過程去探討人工智能的高階化，就有可能走上錯(cuò)誤的道路。

　　針對(duì)人工智能未來關(guān)鍵技術(shù)節(jié)點(diǎn)的判斷，很多問題至今還沒有確定的答案，但對(duì)它們的探索和解答至關(guān)重要。回顧科學(xué)歷史，偉大的技術(shù)突破往往是從提出一個(gè)關(guān)鍵問題開始。我們期待攜手 AI 領(lǐng)域的杰出研究者，探討出高價(jià)值戰(zhàn)略問題，并以之引領(lǐng)，推進(jìn)人工智能的高質(zhì)量發(fā)展。

　　圍繞智能技術(shù)體系化、智能形態(tài)多元化、智能能力高階化這三大趨勢(shì)，有10個(gè)問題值得進(jìn)一步探討。

　　首先，伴隨諾貝爾獎(jiǎng)紛紛花落人工智能項(xiàng)目，以 AI 賦能創(chuàng)新科學(xué)范式被寄予激發(fā)人類社會(huì)生產(chǎn)力重大飛躍的特殊意義。而 AI for Science 研究，如何從促進(jìn)研究的單點(diǎn)突破升維至科研全鏈條水平的本質(zhì)飛升？如何從“工具的革命”，發(fā)展至足以引領(lǐng)全新科學(xué)范式發(fā)展的“革命性工具”？我們?nèi)孕柙诙嗄B(tài)統(tǒng)一表征方面持續(xù)鉆研，打造能夠推動(dòng)科學(xué)突破的AI系統(tǒng)。

　　再如，在具身智能的研究范疇里，如何精準(zhǔn)定義“大腦” 與“本體”之間的關(guān)系，已成為核心且亟待攻克的關(guān)鍵問題。

　　人類作為“智能體”，在本體能力維度，諸如力量、速度等方面，相較于眾多動(dòng)物存在明顯劣勢(shì)。然而，人類卻憑借獨(dú)特的工具創(chuàng)造能力、環(huán)境交互與學(xué)習(xí)的能力，成功突破了自身生理局限，達(dá)成諸多超越想象的成就。

　　因此，未來的具身智能研究應(yīng)當(dāng)深入探究大腦與本體間的最優(yōu)關(guān)系，并據(jù)此制定資源投入的最佳策略。既避免“超級(jí)大腦-弱本體”的陷阱，也避免“高級(jí)本體-簡(jiǎn)單決策”的陷阱。從而推動(dòng)具身智能技術(shù)取得實(shí)質(zhì)性、突破性進(jìn)展。

　　人工智能正以前所未有的速度發(fā)展，當(dāng)前面臨的核心挑戰(zhàn)是：如何從被動(dòng)的“彌補(bǔ)AI安全漏洞”(Make AI Safe)轉(zhuǎn)向主動(dòng)的“構(gòu)建本質(zhì)安全的AI”(Make Safe AI)？

　　近期，形式化AI取得較多進(jìn)展，譬如華裔數(shù)學(xué)家陶哲軒的“Lean+AI=數(shù)學(xué)證明智能化”概念等，體現(xiàn)了通過數(shù)學(xué)嚴(yán)謹(jǐn)性確保系統(tǒng)行為可驗(yàn)證。形式化 AI 有巨大潛力，但同時(shí)也存在一定的問題：會(huì)否由于限制太強(qiáng)，使系統(tǒng)靈活度下降，從而出現(xiàn)為了完成任務(wù)而“繞過安全檢查”，最終導(dǎo)致病變？自動(dòng)形式化、形式化驗(yàn)證是確保 AI 100% 安全的路徑嗎？還有哪些可行的技術(shù)方案，比如Causal AI(因果人工智能)、Explainable AI(可解釋人工智能)等？真正的AI安全需要的不是完美的規(guī)范，而是具備自我修正能力的動(dòng)態(tài)安全機(jī)制。

　　如此種種，還有如何平衡智能發(fā)展質(zhì)量與效率、如何平衡“數(shù)據(jù)合成”和“算法訓(xùn)練”的算力分配、如何促進(jìn)軟硬件協(xié)同創(chuàng)新、如何高效配置算力、如何構(gòu)建更加本質(zhì)的 AI 安全、如何以 AI 賦能科學(xué)范式的革命性高效創(chuàng)新、如何探索下一代模型架構(gòu)等多個(gè)關(guān)鍵問題。

　　通用人工智能正處于爆發(fā)前夜。未來，AGI將深度重構(gòu)社會(huì)生產(chǎn)邏輯，而能否平衡效率與倫理、創(chuàng)新與安全，取決于技術(shù)開發(fā)者、政策制定者與公眾的共治智慧。對(duì)人類而言，AGI不僅是工具，更是文明演進(jìn)的一面鏡子：我們?nèi)绾卧O(shè)計(jì)它，便是如何定義自己的未來。

　　作者：上海人工智能實(shí)驗(yàn)室主任、首席科學(xué)家周伯文