中新社上海7月19日電 題：當AI擁有“終身學習”能力，人類如何劃定“不可逾越之界”？

　　——專訪上海交通大學人工智能學院長聘教軌副教授楊一博

　　作者 高志苗

　　從“能聊”到“能干”，人工智能(AI)正走出數字世界，在真實物理空間“動手”改變。問題隨之而來：當AI擁有了“終身學習”的能力，人類如何為它劃定“不可逾越之界”？具身智能距離真正進入千家萬戶，還有哪些障礙要攻克？

　　2026世界人工智能大會暨人工智能全球治理高級別會議7月17日至20日在上海舉行。與會期間，上海交通大學人工智能學院長聘教軌副教授楊一博接受中新社“東西問”專訪，解讀上述問題。

2026年7月17日，2026世界人工智能大會暨人工智能全球治理高級別會議開幕式在上海舉行。圖為與會嘉賓在開幕式后交流。中新社記者 盛佳鵬 攝

　　現將訪談實錄摘要如下：

　　中新社記者：AI正從聊天框走到物理世界。這種從“數字”到“物理”的轉變，背后折射出人工智能怎樣的發展邏輯？本屆世界人工智能大會，你最期待或最關注什么？

　　楊一博：這一轉變的本質是，AI正在從“學習人類已經產生的數據”，走向“通過自己的行動產生新經驗”。

　　大語言模型主要在數字世界中處理文本、圖像等信息，核心能力是理解和生成。但進入物理世界后，AI必須形成“感知—判斷—行動—反饋—再學習”的閉環。它不僅要回答“這是什么”，還要判斷“我做了這個動作之后，世界會發生什么變化”。世界模型提供了一個內部模擬器，讓機器人能夠預測行動后果；具身智能則把預測轉化為真實動作。

　　但我認為，僅有世界模型和行動能力還不夠。機器人在家庭、工廠等動態環境中長期運行，必然會遇到訓練階段沒有見過的人、物體和任務。如果它不能記住過去的經驗，或者每學會一項新任務就損傷舊能力，就很難成為真正可靠的“智能伙伴”。

　　本屆大會以“智能伙伴 共創未來”為主題，學術議題涉及主動感知、機器人失敗分析與糾正、增量學習等。這說明行業關注點正從“機器人能不能完成一次演示”，轉向“它能否在真實環境中持續學習、發現錯誤并穩定工作”。

　　我尤其關注強化學習領域奠基人之一理查德·薩頓(Richard S. Sutton)的主旨演講。他強調，真正的智能要在運行過程中通過試錯產生增量知識，而不僅是依賴人類整理好的靜態數據。我研究關注的“災難性遺忘”，恰好是這條路線必須解決的基礎問題：AI獲得新經驗以后，怎樣讓經驗沉淀下來，而不是一次次覆蓋過去。

2026年7月18日，2026世界人工智能大會暨人工智能全球治理高級別會議繼續在上海舉行。圖為人形機器人展示揀選及物料搬運。中新社記者 楊郁然 攝

　　中新社記者：你剛才提到“災難性遺忘”。從這個角度看，終身學習如何幫助具身智能長期自主進化？具身智能距離真正進入千家萬戶，還有哪些“最后一公里”的障礙？

　　楊一博：機器人從一個任務切換到另一個任務時，往往會出現“災難性遺忘”：學會整理桌面后，原來掌握的抓取能力可能下降；適應一個新環境后，在舊環境中反而表現變差。

　　我的研究希望同時保持兩種能力：一是學習新知識的“可塑性”，二是保護已有能力的“穩定性”。比如，我之前從“神經坍塌”的角度，解決了機器學習模型在小樣本情況下的持續學習性能問題。我們利用這一規律，為持續學習設定可解釋的優化目標，從優化起點、路徑和目標三個層面，保障持續學習的表現。我們還基于原創的語義導向權重分解技術，解決預訓練大模型的知識遺忘和安全退化問題，從而讓預訓練大模型在學習新任務的同時，保護好自己的基礎能力和安全對齊機制。

　　對具身智能而言，這意味著機器人學習新物體、新動作時，不是任由新數據大范圍改寫原有模型，而是讓新知識進入相對穩定的結構，并控制參數更新范圍。我們還研究小樣本和在線場景，因為在真實場景中，不可能針對機器人的每一項任務都收集海量數據，很多經驗只會出現一次。系統需要從有限反饋中學習，同時避免“用力過猛”而破壞舊能力。

　　具身智能進入千家萬戶，我認為至少還有五道關：第一，真實家庭中的長尾場景和數據不足；第二，不同機器人本體之間的能力難以遷移；第三，長期學習缺少統一評測，短期成功不等于幾個月后仍然可靠；第四，物理行動必須可驗證、可停止、可回滾；第五，成本、能耗、隱私和人類生活習慣需要同時滿足。

　　真正的“最后一公里”，不是機器人偶爾完成一個漂亮動作，而是它能在開放環境里長期工作，遇到變化會學習，學完之后還能不覆蓋過去形成的能力。

2026年年7月17日，2026世界人工智能大會在上海開幕。圖為人形機器人在制作健康餐。中新社記者 湯彥俊 攝

　　中新社記者：AI擁有終身學習能力后，人類怎樣劃定“不可逾越的邊界”？

　　楊一博：當AI進入物理世界，安全不能只是一條外部規則，因為具備終身學習能力的系統會不斷改變。今天通過測試，不代表學習新任務后仍安全。因此，“不可逾越之界”應同時存在于三個層面：模型更新時有不可破壞的安全子空間；執行動作時有最小權限、風險分級和人類接管機制；部署后持續監測能力變化，必要時能停止學習或恢復到安全狀態。

　　本屆大會已公布的議題中，既有機器人失敗分析與糾正，也有智能體責任框架、局部驗證和全球治理討論。我認為這反映出安全觀正發生變化：安全不是部署前做一次測試，而是貫穿數據、訓練、適應、更新、行動和追責的全生命周期能力。

2026年7月18日，上海，參觀者在人工智能大會上了解睿爾曼智能機械臂。中新社記者 楊郁然 攝

　　中新社記者：你曾長期在海外學習、工作，中西方在AI對齊與安全上的思考有何差異，如何互補？

　　楊一博：我不太贊成把中西方的情況簡單概括成“西方重安全、中國重應用”。雙方都在追求安全、可信和有益的AI，只是歷史傳統、制度工具和應用環境不同。

　　歐美較早把AI安全轉化為風險分類、測試評估和組織責任。例如歐盟《人工智能法案》采用分級風險框架；美國國家標準與技術研究院(NIST)發布的《人工智能風險管理框架》強調在設計、開發、部署和使用的全生命周期中管理可信風險。

　　中國的特點是更強調發展與安全并重，以及技術在具體社會場景中是否真正可控、可用、普惠。《全球人工智能治理倡議》提出“以人為本、智能向善”，《人工智能安全治理框架》2.0版則根據技術和應用變化動態調整風險分類。這種思路不僅關注模型本身，也關注AI進入醫療、交通、教育和家庭后產生的社會影響。

　　兩種思路可以互補：一方面建立可測試、可比較的全球安全底線；另一方面尊重不同文化和場景對隱私、家庭關系、公共利益和人的自主性的具體要求。

　　世界模型要安全融入人類社會，不能只學習物理規律，還要理解人的行為邊界和社會規范；不能只預測“這個動作能不能完成”，還要判斷“該不該做、誰來授權、出了問題如何停止和追責”。我認為，真正的全球治理不是統一所有價值判斷，而是在共同安全底線之上，建立可互認的評測、透明的責任機制和持續對話，讓AI最終服務于人的福祉。(完)

　　受訪者簡介：

楊一博。受訪者供圖

　　楊一博，現任上海交通大學人工智能學院長聘教軌副教授，曾任KAUST科學研究員，連續3年入選斯坦福全球前2%科學家。他在受限條件下的模型訓練、緩解模型遺忘等方向取得了代表性成果，相關成果發表于NeurIPS、ICML、ICLR，并多次獲得Spotlight、Oral。曾獲ICCV COCO創新獎、ICCV BMTT全球第一名、2025年祖沖之獎人工智能前沿創新獎突出成果獎、2023年吳文俊人工智能科學技術獎自然科學一等獎、2021年吳文俊人工智能科學技術獎優秀博士論文。