中新社上海7月19日電 題：當(dāng)AI擁有“終身學(xué)習(xí)”能力，人類如何劃定“不可逾越之界”？

　　——專訪上海交通大學(xué)人工智能學(xué)院長聘教軌副教授楊一博

　　作者 高志苗

　　從“能聊”到“能干”，人工智能(AI)正走出數(shù)字世界，在真實(shí)物理空間“動手”改變。問題隨之而來：當(dāng)AI擁有了“終身學(xué)習(xí)”的能力，人類如何為它劃定“不可逾越之界”？具身智能距離真正進(jìn)入千家萬戶，還有哪些障礙要攻克？

　　2026世界人工智能大會暨人工智能全球治理高級別會議7月17日至20日在上海舉行。與會期間，上海交通大學(xué)人工智能學(xué)院長聘教軌副教授楊一博接受中新社“東西問”專訪，解讀上述問題。

2026年7月17日，2026世界人工智能大會暨人工智能全球治理高級別會議開幕式在上海舉行。圖為與會嘉賓在開幕式后交流。中新社記者 盛佳鵬 攝

　　現(xiàn)將訪談實(shí)錄摘要如下：

　　中新社記者：AI正從聊天框走到物理世界。這種從“數(shù)字”到“物理”的轉(zhuǎn)變，背后折射出人工智能怎樣的發(fā)展邏輯？本屆世界人工智能大會，你最期待或最關(guān)注什么？

　　楊一博：這一轉(zhuǎn)變的本質(zhì)是，AI正在從“學(xué)習(xí)人類已經(jīng)產(chǎn)生的數(shù)據(jù)”，走向“通過自己的行動產(chǎn)生新經(jīng)驗(yàn)”。

　　大語言模型主要在數(shù)字世界中處理文本、圖像等信息，核心能力是理解和生成。但進(jìn)入物理世界后，AI必須形成“感知—判斷—行動—反饋—再學(xué)習(xí)”的閉環(huán)。它不僅要回答“這是什么”，還要判斷“我做了這個動作之后，世界會發(fā)生什么變化”。世界模型提供了一個內(nèi)部模擬器，讓機(jī)器人能夠預(yù)測行動后果；具身智能則把預(yù)測轉(zhuǎn)化為真實(shí)動作。

　　但我認(rèn)為，僅有世界模型和行動能力還不夠。機(jī)器人在家庭、工廠等動態(tài)環(huán)境中長期運(yùn)行，必然會遇到訓(xùn)練階段沒有見過的人、物體和任務(wù)。如果它不能記住過去的經(jīng)驗(yàn)，或者每學(xué)會一項(xiàng)新任務(wù)就損傷舊能力，就很難成為真正可靠的“智能伙伴”。

　　本屆大會以“智能伙伴 共創(chuàng)未來”為主題，學(xué)術(shù)議題涉及主動感知、機(jī)器人失敗分析與糾正、增量學(xué)習(xí)等。這說明行業(yè)關(guān)注點(diǎn)正從“機(jī)器人能不能完成一次演示”，轉(zhuǎn)向“它能否在真實(shí)環(huán)境中持續(xù)學(xué)習(xí)、發(fā)現(xiàn)錯誤并穩(wěn)定工作”。

　　我尤其關(guān)注強(qiáng)化學(xué)習(xí)領(lǐng)域奠基人之一理查德·薩頓(Richard S. Sutton)的主旨演講。他強(qiáng)調(diào)，真正的智能要在運(yùn)行過程中通過試錯產(chǎn)生增量知識，而不僅是依賴人類整理好的靜態(tài)數(shù)據(jù)。我研究關(guān)注的“災(zāi)難性遺忘”，恰好是這條路線必須解決的基礎(chǔ)問題：AI獲得新經(jīng)驗(yàn)以后，怎樣讓經(jīng)驗(yàn)沉淀下來，而不是一次次覆蓋過去。

2026年7月18日，2026世界人工智能大會暨人工智能全球治理高級別會議繼續(xù)在上海舉行。圖為人形機(jī)器人展示揀選及物料搬運(yùn)。中新社記者 楊郁然 攝

　　中新社記者：你剛才提到“災(zāi)難性遺忘”。從這個角度看，終身學(xué)習(xí)如何幫助具身智能長期自主進(jìn)化？具身智能距離真正進(jìn)入千家萬戶，還有哪些“最后一公里”的障礙？

　　楊一博：機(jī)器人從一個任務(wù)切換到另一個任務(wù)時(shí)，往往會出現(xiàn)“災(zāi)難性遺忘”：學(xué)會整理桌面后，原來掌握的抓取能力可能下降；適應(yīng)一個新環(huán)境后，在舊環(huán)境中反而表現(xiàn)變差。

　　我的研究希望同時(shí)保持兩種能力：一是學(xué)習(xí)新知識的“可塑性”，二是保護(hù)已有能力的“穩(wěn)定性”。比如，我之前從“神經(jīng)坍塌”的角度，解決了機(jī)器學(xué)習(xí)模型在小樣本情況下的持續(xù)學(xué)習(xí)性能問題。我們利用這一規(guī)律，為持續(xù)學(xué)習(xí)設(shè)定可解釋的優(yōu)化目標(biāo)，從優(yōu)化起點(diǎn)、路徑和目標(biāo)三個層面，保障持續(xù)學(xué)習(xí)的表現(xiàn)。我們還基于原創(chuàng)的語義導(dǎo)向權(quán)重分解技術(shù)，解決預(yù)訓(xùn)練大模型的知識遺忘和安全退化問題，從而讓預(yù)訓(xùn)練大模型在學(xué)習(xí)新任務(wù)的同時(shí)，保護(hù)好自己的基礎(chǔ)能力和安全對齊機(jī)制。

　　對具身智能而言，這意味著機(jī)器人學(xué)習(xí)新物體、新動作時(shí)，不是任由新數(shù)據(jù)大范圍改寫原有模型，而是讓新知識進(jìn)入相對穩(wěn)定的結(jié)構(gòu)，并控制參數(shù)更新范圍。我們還研究小樣本和在線場景，因?yàn)樵谡鎸?shí)場景中，不可能針對機(jī)器人的每一項(xiàng)任務(wù)都收集海量數(shù)據(jù)，很多經(jīng)驗(yàn)只會出現(xiàn)一次。系統(tǒng)需要從有限反饋中學(xué)習(xí)，同時(shí)避免“用力過猛”而破壞舊能力。

　　具身智能進(jìn)入千家萬戶，我認(rèn)為至少還有五道關(guān)：第一，真實(shí)家庭中的長尾場景和數(shù)據(jù)不足；第二，不同機(jī)器人本體之間的能力難以遷移；第三，長期學(xué)習(xí)缺少統(tǒng)一評測，短期成功不等于幾個月后仍然可靠；第四，物理行動必須可驗(yàn)證、可停止、可回滾；第五，成本、能耗、隱私和人類生活習(xí)慣需要同時(shí)滿足。

　　真正的“最后一公里”，不是機(jī)器人偶爾完成一個漂亮動作，而是它能在開放環(huán)境里長期工作，遇到變化會學(xué)習(xí)，學(xué)完之后還能不覆蓋過去形成的能力。

2026年年7月17日，2026世界人工智能大會在上海開幕。圖為人形機(jī)器人在制作健康餐。中新社記者 湯彥俊 攝

　　中新社記者：AI擁有終身學(xué)習(xí)能力后，人類怎樣劃定“不可逾越的邊界”？

　　楊一博：當(dāng)AI進(jìn)入物理世界，安全不能只是一條外部規(guī)則，因?yàn)榫邆浣K身學(xué)習(xí)能力的系統(tǒng)會不斷改變。今天通過測試，不代表學(xué)習(xí)新任務(wù)后仍安全。因此，“不可逾越之界”應(yīng)同時(shí)存在于三個層面：模型更新時(shí)有不可破壞的安全子空間；執(zhí)行動作時(shí)有最小權(quán)限、風(fēng)險(xiǎn)分級和人類接管機(jī)制；部署后持續(xù)監(jiān)測能力變化，必要時(shí)能停止學(xué)習(xí)或恢復(fù)到安全狀態(tài)。

　　本屆大會已公布的議題中，既有機(jī)器人失敗分析與糾正，也有智能體責(zé)任框架、局部驗(yàn)證和全球治理討論。我認(rèn)為這反映出安全觀正發(fā)生變化：安全不是部署前做一次測試，而是貫穿數(shù)據(jù)、訓(xùn)練、適應(yīng)、更新、行動和追責(zé)的全生命周期能力。

2026年7月18日，上海，參觀者在人工智能大會上了解睿爾曼智能機(jī)械臂。中新社記者 楊郁然 攝

　　中新社記者：你曾長期在海外學(xué)習(xí)、工作，中西方在AI對齊與安全上的思考有何差異，如何互補(bǔ)？

　　楊一博：我不太贊成把中西方的情況簡單概括成“西方重安全、中國重應(yīng)用”。雙方都在追求安全、可信和有益的AI，只是歷史傳統(tǒng)、制度工具和應(yīng)用環(huán)境不同。

　　歐美較早把AI安全轉(zhuǎn)化為風(fēng)險(xiǎn)分類、測試評估和組織責(zé)任。例如歐盟《人工智能法案》采用分級風(fēng)險(xiǎn)框架；美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)發(fā)布的《人工智能風(fēng)險(xiǎn)管理框架》強(qiáng)調(diào)在設(shè)計(jì)、開發(fā)、部署和使用的全生命周期中管理可信風(fēng)險(xiǎn)。

　　中國的特點(diǎn)是更強(qiáng)調(diào)發(fā)展與安全并重，以及技術(shù)在具體社會場景中是否真正可控、可用、普惠。《全球人工智能治理倡議》提出“以人為本、智能向善”，《人工智能安全治理框架》2.0版則根據(jù)技術(shù)和應(yīng)用變化動態(tài)調(diào)整風(fēng)險(xiǎn)分類。這種思路不僅關(guān)注模型本身，也關(guān)注AI進(jìn)入醫(yī)療、交通、教育和家庭后產(chǎn)生的社會影響。

　　兩種思路可以互補(bǔ)：一方面建立可測試、可比較的全球安全底線；另一方面尊重不同文化和場景對隱私、家庭關(guān)系、公共利益和人的自主性的具體要求。

　　世界模型要安全融入人類社會，不能只學(xué)習(xí)物理規(guī)律，還要理解人的行為邊界和社會規(guī)范；不能只預(yù)測“這個動作能不能完成”，還要判斷“該不該做、誰來授權(quán)、出了問題如何停止和追責(zé)”。我認(rèn)為，真正的全球治理不是統(tǒng)一所有價(jià)值判斷，而是在共同安全底線之上，建立可互認(rèn)的評測、透明的責(zé)任機(jī)制和持續(xù)對話，讓AI最終服務(wù)于人的福祉。(完)

　　受訪者簡介：

楊一博。受訪者供圖

　　楊一博，現(xiàn)任上海交通大學(xué)人工智能學(xué)院長聘教軌副教授，曾任KAUST科學(xué)研究員，連續(xù)3年入選斯坦福全球前2%科學(xué)家。他在受限條件下的模型訓(xùn)練、緩解模型遺忘等方向取得了代表性成果，相關(guān)成果發(fā)表于NeurIPS、ICML、ICLR，并多次獲得Spotlight、Oral。曾獲ICCV COCO創(chuàng)新獎、ICCV BMTT全球第一名、2025年祖沖之獎人工智能前沿創(chuàng)新獎突出成果獎、2023年吳文俊人工智能科學(xué)技術(shù)獎自然科學(xué)一等獎、2021年吳文俊人工智能科學(xué)技術(shù)獎優(yōu)秀博士論文。