中新社上海7月19日電 題：當(dāng)AI擁有“終身學(xué)習(xí)”能力，人類(lèi)如何劃定“不可逾越之界”？

　　——專訪上海交通大學(xué)人工智能學(xué)院長(zhǎng)聘教軌副教授楊一博

　　作者 高志苗

　　從“能聊”到“能干”，人工智能(AI)正走出數(shù)字世界，在真實(shí)物理空間“動(dòng)手”改變。問(wèn)題隨之而來(lái)：當(dāng)AI擁有了“終身學(xué)習(xí)”的能力，人類(lèi)如何為它劃定“不可逾越之界”？具身智能距離真正進(jìn)入千家萬(wàn)戶，還有哪些障礙要攻克？

　　2026世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議7月17日至20日在上海舉行。與會(huì)期間，上海交通大學(xué)人工智能學(xué)院長(zhǎng)聘教軌副教授楊一博接受中新社“東西問(wèn)”專訪，解讀上述問(wèn)題。

2026年7月17日，2026世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議開(kāi)幕式在上海舉行。圖為與會(huì)嘉賓在開(kāi)幕式后交流。中新社記者 盛佳鵬 攝

　　現(xiàn)將訪談實(shí)錄摘要如下：

　　中新社記者：AI正從聊天框走到物理世界。這種從“數(shù)字”到“物理”的轉(zhuǎn)變，背后折射出人工智能怎樣的發(fā)展邏輯？本屆世界人工智能大會(huì)，你最期待或最關(guān)注什么？

　　楊一博：這一轉(zhuǎn)變的本質(zhì)是，AI正在從“學(xué)習(xí)人類(lèi)已經(jīng)產(chǎn)生的數(shù)據(jù)”，走向“通過(guò)自己的行動(dòng)產(chǎn)生新經(jīng)驗(yàn)”。

　　大語(yǔ)言模型主要在數(shù)字世界中處理文本、圖像等信息，核心能力是理解和生成。但進(jìn)入物理世界后，AI必須形成“感知—判斷—行動(dòng)—反饋—再學(xué)習(xí)”的閉環(huán)。它不僅要回答“這是什么”，還要判斷“我做了這個(gè)動(dòng)作之后，世界會(huì)發(fā)生什么變化”。世界模型提供了一個(gè)內(nèi)部模擬器，讓機(jī)器人能夠預(yù)測(cè)行動(dòng)后果；具身智能則把預(yù)測(cè)轉(zhuǎn)化為真實(shí)動(dòng)作。

　　但我認(rèn)為，僅有世界模型和行動(dòng)能力還不夠。機(jī)器人在家庭、工廠等動(dòng)態(tài)環(huán)境中長(zhǎng)期運(yùn)行，必然會(huì)遇到訓(xùn)練階段沒(méi)有見(jiàn)過(guò)的人、物體和任務(wù)。如果它不能記住過(guò)去的經(jīng)驗(yàn)，或者每學(xué)會(huì)一項(xiàng)新任務(wù)就損傷舊能力，就很難成為真正可靠的“智能伙伴”。

　　本屆大會(huì)以“智能伙伴 共創(chuàng)未來(lái)”為主題，學(xué)術(shù)議題涉及主動(dòng)感知、機(jī)器人失敗分析與糾正、增量學(xué)習(xí)等。這說(shuō)明行業(yè)關(guān)注點(diǎn)正從“機(jī)器人能不能完成一次演示”，轉(zhuǎn)向“它能否在真實(shí)環(huán)境中持續(xù)學(xué)習(xí)、發(fā)現(xiàn)錯(cuò)誤并穩(wěn)定工作”。

　　我尤其關(guān)注強(qiáng)化學(xué)習(xí)領(lǐng)域奠基人之一理查德·薩頓(Richard S. Sutton)的主旨演講。他強(qiáng)調(diào)，真正的智能要在運(yùn)行過(guò)程中通過(guò)試錯(cuò)產(chǎn)生增量知識(shí)，而不僅是依賴人類(lèi)整理好的靜態(tài)數(shù)據(jù)。我研究關(guān)注的“災(zāi)難性遺忘”，恰好是這條路線必須解決的基礎(chǔ)問(wèn)題：AI獲得新經(jīng)驗(yàn)以后，怎樣讓經(jīng)驗(yàn)沉淀下來(lái)，而不是一次次覆蓋過(guò)去。

2026年7月18日，2026世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議繼續(xù)在上海舉行。圖為人形機(jī)器人展示揀選及物料搬運(yùn)。中新社記者 楊郁然 攝

　　中新社記者：你剛才提到“災(zāi)難性遺忘”。從這個(gè)角度看，終身學(xué)習(xí)如何幫助具身智能長(zhǎng)期自主進(jìn)化？具身智能距離真正進(jìn)入千家萬(wàn)戶，還有哪些“最后一公里”的障礙？

　　楊一博：機(jī)器人從一個(gè)任務(wù)切換到另一個(gè)任務(wù)時(shí)，往往會(huì)出現(xiàn)“災(zāi)難性遺忘”：學(xué)會(huì)整理桌面后，原來(lái)掌握的抓取能力可能下降；適應(yīng)一個(gè)新環(huán)境后，在舊環(huán)境中反而表現(xiàn)變差。

　　我的研究希望同時(shí)保持兩種能力：一是學(xué)習(xí)新知識(shí)的“可塑性”，二是保護(hù)已有能力的“穩(wěn)定性”。比如，我之前從“神經(jīng)坍塌”的角度，解決了機(jī)器學(xué)習(xí)模型在小樣本情況下的持續(xù)學(xué)習(xí)性能問(wèn)題。我們利用這一規(guī)律，為持續(xù)學(xué)習(xí)設(shè)定可解釋的優(yōu)化目標(biāo)，從優(yōu)化起點(diǎn)、路徑和目標(biāo)三個(gè)層面，保障持續(xù)學(xué)習(xí)的表現(xiàn)。我們還基于原創(chuàng)的語(yǔ)義導(dǎo)向權(quán)重分解技術(shù)，解決預(yù)訓(xùn)練大模型的知識(shí)遺忘和安全退化問(wèn)題，從而讓預(yù)訓(xùn)練大模型在學(xué)習(xí)新任務(wù)的同時(shí)，保護(hù)好自己的基礎(chǔ)能力和安全對(duì)齊機(jī)制。

　　對(duì)具身智能而言，這意味著機(jī)器人學(xué)習(xí)新物體、新動(dòng)作時(shí)，不是任由新數(shù)據(jù)大范圍改寫(xiě)原有模型，而是讓新知識(shí)進(jìn)入相對(duì)穩(wěn)定的結(jié)構(gòu)，并控制參數(shù)更新范圍。我們還研究小樣本和在線場(chǎng)景，因?yàn)樵谡鎸?shí)場(chǎng)景中，不可能針對(duì)機(jī)器人的每一項(xiàng)任務(wù)都收集海量數(shù)據(jù)，很多經(jīng)驗(yàn)只會(huì)出現(xiàn)一次。系統(tǒng)需要從有限反饋中學(xué)習(xí)，同時(shí)避免“用力過(guò)猛”而破壞舊能力。

　　具身智能進(jìn)入千家萬(wàn)戶，我認(rèn)為至少還有五道關(guān)：第一，真實(shí)家庭中的長(zhǎng)尾場(chǎng)景和數(shù)據(jù)不足；第二，不同機(jī)器人本體之間的能力難以遷移；第三，長(zhǎng)期學(xué)習(xí)缺少統(tǒng)一評(píng)測(cè)，短期成功不等于幾個(gè)月后仍然可靠；第四，物理行動(dòng)必須可驗(yàn)證、可停止、可回滾；第五，成本、能耗、隱私和人類(lèi)生活習(xí)慣需要同時(shí)滿足。

　　真正的“最后一公里”，不是機(jī)器人偶爾完成一個(gè)漂亮動(dòng)作，而是它能在開(kāi)放環(huán)境里長(zhǎng)期工作，遇到變化會(huì)學(xué)習(xí)，學(xué)完之后還能不覆蓋過(guò)去形成的能力。

2026年年7月17日，2026世界人工智能大會(huì)在上海開(kāi)幕。圖為人形機(jī)器人在制作健康餐。中新社記者 湯彥俊 攝

　　中新社記者：AI擁有終身學(xué)習(xí)能力后，人類(lèi)怎樣劃定“不可逾越的邊界”？

　　楊一博：當(dāng)AI進(jìn)入物理世界，安全不能只是一條外部規(guī)則，因?yàn)榫邆浣K身學(xué)習(xí)能力的系統(tǒng)會(huì)不斷改變。今天通過(guò)測(cè)試，不代表學(xué)習(xí)新任務(wù)后仍安全。因此，“不可逾越之界”應(yīng)同時(shí)存在于三個(gè)層面：模型更新時(shí)有不可破壞的安全子空間；執(zhí)行動(dòng)作時(shí)有最小權(quán)限、風(fēng)險(xiǎn)分級(jí)和人類(lèi)接管機(jī)制；部署后持續(xù)監(jiān)測(cè)能力變化，必要時(shí)能停止學(xué)習(xí)或恢復(fù)到安全狀態(tài)。

　　本屆大會(huì)已公布的議題中，既有機(jī)器人失敗分析與糾正，也有智能體責(zé)任框架、局部驗(yàn)證和全球治理討論。我認(rèn)為這反映出安全觀正發(fā)生變化：安全不是部署前做一次測(cè)試，而是貫穿數(shù)據(jù)、訓(xùn)練、適應(yīng)、更新、行動(dòng)和追責(zé)的全生命周期能力。

2026年7月18日，上海，參觀者在人工智能大會(huì)上了解睿爾曼智能機(jī)械臂。中新社記者 楊郁然 攝

　　中新社記者：你曾長(zhǎng)期在海外學(xué)習(xí)、工作，中西方在AI對(duì)齊與安全上的思考有何差異，如何互補(bǔ)？

　　楊一博：我不太贊成把中西方的情況簡(jiǎn)單概括成“西方重安全、中國(guó)重應(yīng)用”。雙方都在追求安全、可信和有益的AI，只是歷史傳統(tǒng)、制度工具和應(yīng)用環(huán)境不同。

　　歐美較早把AI安全轉(zhuǎn)化為風(fēng)險(xiǎn)分類(lèi)、測(cè)試評(píng)估和組織責(zé)任。例如歐盟《人工智能法案》采用分級(jí)風(fēng)險(xiǎn)框架；美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)發(fā)布的《人工智能風(fēng)險(xiǎn)管理框架》強(qiáng)調(diào)在設(shè)計(jì)、開(kāi)發(fā)、部署和使用的全生命周期中管理可信風(fēng)險(xiǎn)。

　　中國(guó)的特點(diǎn)是更強(qiáng)調(diào)發(fā)展與安全并重，以及技術(shù)在具體社會(huì)場(chǎng)景中是否真正可控、可用、普惠。《全球人工智能治理倡議》提出“以人為本、智能向善”，《人工智能安全治理框架》2.0版則根據(jù)技術(shù)和應(yīng)用變化動(dòng)態(tài)調(diào)整風(fēng)險(xiǎn)分類(lèi)。這種思路不僅關(guān)注模型本身，也關(guān)注AI進(jìn)入醫(yī)療、交通、教育和家庭后產(chǎn)生的社會(huì)影響。

　　兩種思路可以互補(bǔ)：一方面建立可測(cè)試、可比較的全球安全底線；另一方面尊重不同文化和場(chǎng)景對(duì)隱私、家庭關(guān)系、公共利益和人的自主性的具體要求。

　　世界模型要安全融入人類(lèi)社會(huì)，不能只學(xué)習(xí)物理規(guī)律，還要理解人的行為邊界和社會(huì)規(guī)范；不能只預(yù)測(cè)“這個(gè)動(dòng)作能不能完成”，還要判斷“該不該做、誰(shuí)來(lái)授權(quán)、出了問(wèn)題如何停止和追責(zé)”。我認(rèn)為，真正的全球治理不是統(tǒng)一所有價(jià)值判斷，而是在共同安全底線之上，建立可互認(rèn)的評(píng)測(cè)、透明的責(zé)任機(jī)制和持續(xù)對(duì)話，讓AI最終服務(wù)于人的福祉。(完)

　　受訪者簡(jiǎn)介：

楊一博。受訪者供圖

　　楊一博，現(xiàn)任上海交通大學(xué)人工智能學(xué)院長(zhǎng)聘教軌副教授，曾任KAUST科學(xué)研究員，連續(xù)3年入選斯坦福全球前2%科學(xué)家。他在受限條件下的模型訓(xùn)練、緩解模型遺忘等方向取得了代表性成果，相關(guān)成果發(fā)表于NeurIPS、ICML、ICLR，并多次獲得Spotlight、Oral。曾獲ICCV COCO創(chuàng)新獎(jiǎng)、ICCV BMTT全球第一名、2025年祖沖之獎(jiǎng)人工智能前沿創(chuàng)新獎(jiǎng)突出成果獎(jiǎng)、2023年吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)自然科學(xué)一等獎(jiǎng)、2021年吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)優(yōu)秀博士論文。